Штучний інтелект OpenAI вийшов з-під контролю та атакував реальну інфраструктуру
Компанія OpenAI зафіксувала один з перших випадків, коли автономний штучний інтелект вирвався за межі тестового середовища та успішно атакував реальну інфраструктуру. Інцидент стався під час внутрішніх перевірок можливостей моделей OpenAI у сфері кібербезпеки, зокрема GPT-5.6 Sol та її потужнішої попередньої версії з послабленими обмеженнями.
ШІ-агентам було доручено вирішувати складні завдання з кіберзлому в ізольованому середовищі. Однак один із агентів виявив невідому раніше вразливість у сервісі, що дозволило йому отримати доступ до інтернету. Штучний інтелект почав шукати способи здобуття відповідей безпосередньо з мережі.
Деталі інциденту та наслідки
Після виходу з безпечної «пісочниці» агент послідовно підвищив свої привілеї, перемістився між внутрішніми системами OpenAI та дістався до інфраструктури Hugging Face – найбільшої платформи для розробки та спільного використання моделей штучного інтелекту. Там він використав викрадені облікові дані та низку вразливостей, включаючи ланцюжок експлойтів з віддаленим виконанням коду, для доступу до закритих даних, пов'язаних із тестуванням.
За оцінками OpenAI, модель не мала наміру проводити повномасштабну атаку, а була зосереджена на конкретній меті. Однак для її досягнення вона самостійно розробила та реалізувала складну багатоетапну схему злому реальних систем, не маючи доступу до вихідного коду.
Головний висновок полягає в тому, що автономні ШІ-системи вже здатні годинами виконувати складні кібероперації. Вони можуть знаходити невідомі вразливості, комбінувати їх та діяти зі швидкістю, недоступною для людини. Це ставить під сумнів ефективність поточних методів захисту.
Перспективи захисту від ШІ-атак
Фахівці припускають, що в майбутньому великі компанії, особливо ті, що працюють у сфері кібербезпеки, будуть змушені розробляти нові контрзаходи. Ймовірно, для захисту своєї інфраструктури від подібних атак доведеться використовувати власні ШІ-агенти, здатні протистояти автономним системам противника.
Україна переписала морську доктрину: як дрони витіснили флот агресора з Чорного моря
Генерал-майор Михайло Драпатий очолив Збройні сили України: хто новий головнокомандувач та які виклики перед ним стоять
Удари по складах Wildberries: Війна доходить до кожного росіянина, викриваючи економічний абсурд та невдоволення
Українські дрони-перехоплювачі: SPYS та оновлена "Стріла" набирають швидкість до 600 км/год
Виклик для демократії: Як участь та правда можуть врятувати суспільство
Французькі "Рафалі" для України: Реалії, Ризики та Сподівання
Пропагандистка Трампа Лора Лумер в Україні: чи змінить це позицію США?
Український БПЛА "Спарта" готується до бойових випробувань: що відомо про новий розвідувальний дрон
