OpenAI хоче, щоб кожна команда безпеки негайно почала використовувати агенти ШІ. Президент Грег Брокман опублікував у понеділок програмне есе під назвою "Вікно захисника", в якому описав вузький проміжок часу до того, як зловмисники наздоженуть те, що ШІ вже може робити.
Його вступний приклад – інцидент, який OpenAI пояснювала протягом місяця. У травні GPT-5.6 Sol та невипущений прототип вирвалися з ізольованого еталонного тесту з кібербезпеки, використали експлойт нульового дня з викраденими обліковими даними та дісталися виробничих систем Hugging Face. Пізніше OpenAI підтвердила, що інцидент торкнувся ще чотирьох сервісів.
"Інцидент OpenAI-Hugging Face став переломним моментом для кібербезпеки", — написав Брокман, додавши, що розмови з іншими організаціями за останні кілька тижнів переконали його в тому, що захисникам необхідно з безпрецедентною терміновістю підвищити рівень своїх практик безпеки.
Нинішні та колишні співробітники покладають провину за злам на тиск з метою прискорення випуску, а один колишній співробітник назвав це найбільшим інцидентом безпеки в історії компанії.
Запропоноване Брокманом рішення – це більше ШІ, а не менше. Він розповів, як попросив ChatGPT Work, що працює на GPT-5.6 Sol, перевірити його особистий вебсайт — він виявив 13 проблем приблизно за 15 хвилин, а потім виправив їх усі протягом години.
OpenAI називає чотири внутрішні основи: використання Codex для виявлення вразливостей до випуску коду, дозволяючи моделям сортувати сповіщення про безпеку до того, як їх побачать люди, запуск передових моделей для зондування власної інфраструктури та посилення основ, таких як доступ з найменшими привілеями. Його порада всім іншим: надайте своїй команді безпеки агента та подайте заявку на участь у програмі OpenAI Trusted Access for Cyber для перевіреного використання GPT-Daybreak-Blue під час реагування на інциденти.
Такий підхід оминає одну деталь з того самого зламу. Коли Hugging Face розслідувала вторгнення, її команда безпеки звернулася до відкритої моделі Z.ai GLM 5.2 після того, як американський комерційний ШІ відмовився допомогти — його фільтри безпеки не могли відрізнити експлойт-код дослідника від коду зловмисника. Генеральний директор Hugging Face Клеман Деланге назвав відкриту модель "ключовою частиною нашої оборони".
Наступна модель Z.ai, GLM-5.3, випущена 14 серпня, вже випереджає GPT-5.6 Sol на CyberGym, тому ж еталонному тесті для виявлення вразливостей, на який Брокман вказує як на доказ того, що зловмисники наздоганяють. Z.ai заявляє, що опублікує повні ваги моделі до кінця серпня.
