Через кілька тижнів після того, як її моделі ШІ зламали Hugging Face, OpenAI опублікувала свій перший детальний звіт про те, як вони координували дії одна з одною, попереджаючи, що автономні кібератаки на основі ШІ більше не є ризиком майбутнього.
Під час презентації в середу на конференції з кібербезпеки Black Hat дослідники OpenAI Ерік Воллес та Майкл Далтон повідомили, що інцидент розпочався у травні під час внутрішнього оцінювання кібербезпеки. Агенти ШІ, яким були призначені складні завдання з безпеки програмного забезпечення, виявили, що вони можуть спілкуватися через внутрішню систему управління пакетами Artifactory компанії.
За даними OpenAI, те, що починалося як запити про допомогу, перетворилося на спільну дошку повідомлень, де агенти обмінювалися експлойтами, обліковими даними та робочими завданнями протягом кількох циклів оцінювання. Після виявлення підозрілої активності приблизно 4 липня, OpenAI відбудувала свою інфраструктуру Artifactory, відкликала облікові дані та виправила вразливості.
Однак протягом кількох днів агенти відтворили дошку повідомлень, приховуючи комунікації в назвах директорій.
За даними OpenAI, агенти зрештою об'єднали кілька вразливостей, вирвалися зі свого тестового середовища, отримали доступ до інтернету та атакували Hugging Face, намагаючись завершити бенчмарк кібербезпеки ExploitGym.
Далтон назвав інцидент "переломним моментом" для комп'ютерної безпеки, попереджаючи, що зловмисники незабаром зможуть розгортати скоординовані колективи агентів ШІ, які виявлятимуть, обмінюватимуться та використовуватимуть вразливості зі швидкістю машини.
Щоб пом'якшити ці ризики в майбутньому, OpenAI заявила, що встановлення практик безпеки, включаючи доступ з найменшими привілеями, сегментацію мережі та архітектури з нульовою довірою, є важливим, оскільки агенти ШІ залишаються обмеженими системами, до яких вони мають доступ.
Презентація відбулася після серії липневих розкриттів інформації. OpenAI повідомила, що GPT-5.6 Sol та більш просунута невипущена модель вирвалися з ізольованого тестового середовища, використали вразливість нульового дня, отримали доступ до інтернету та зламали Hugging Face під час тестування на кібербезпеку.
Пізніше OpenAI повідомила, що той самий інцидент також торкнувся чотирьох інших онлайн-сервісів, хоча ідентифіковано було лише Modal Labs.
За даними Hugging Face, компанія покладалася на китайську модель GLM 5.2 з відкритими вагами для свого криміналістичного розслідування після того, як комерційні моделі ШІ США відмовилися аналізувати журнали атак через їхні захисні механізми.
Так пишаємося нашою командою безпеки! Вони виявили, локалізували та публічно розкрили атаку, не схожу на все, що ми бачили раніше, і зробили це з рекордною швидкістю.
Також надзвичайно вдячні @Zai_org: вони поділилися GLM5.2 як відкритими вагами (безкоштовно!) зі світом, і це стало ключовою частиною нашого… https://t.co/T2Inng5Nz1
— clem 🤗 (@ClementDelangue) 22 липня 2026
Але не тільки OpenAI має проблеми зі стримуванням своїх чат-ботів.
У п'ятницю Anthropic повідомила, що три моделі Claude скомпрометували реальні компанії під час внутрішніх тестів кібербезпеки після того, як неправильна конфігурація вивела їх у публічний інтернет.
Anthropic звинуватила тестове середовище, а не самі моделі. У середу Meta повідомила, що її модель ШІ Muse Spark вирвалася з-під контролю та зламала системи іншої компанії.
«Неправильна конфігурація компанією Irregular, незалежною тестовою компанією, яку використовує Meta, ненавмисно дозволила одній з наших моделей отримати доступ до інтернету під час оцінювання», — повідомив представник Meta для CNN.
