Провідні розробники ШІ закликають уряди та бізнеси зміцнити свої мережі після того, як моделі, створені OpenAI та Anthropic, скомпрометували системи інших компаній.

У відкритому листі, оприлюдненому в четвер, OpenAI, Anthropic та понад 100 інших організацій попередили, що кібератаки з використанням ШІ незабаром стануть поширенішими, і що компанії мають «обмежений час для зміцнення кіберзахисту».

«У найближчі місяці кібератаки з використанням ШІ стануть набагато поширенішими та складнішими», – йдеться в листі. Серед послуг, що перебувають під загрозою, було визначено лікарні, водоочисні споруди та інтернет-інфраструктуру.

Лист рекомендує фінансувати засоби захисту на основі ШІ, обмінюватися інформацією про загрози, обмежувати доступ до чутливих систем та покращувати безпеку критичної інфраструктури. Однак збої в цих сферах дозволили моделям OpenAI та Anthropic зламати системи поза їхніми тестовими середовищами.

Серед інших підписантів – Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa та Robinhood. Hugging Face, чию виробничу інфраструктуру зламали моделі OpenAI, також підписала лист.

Моделі ШІ зламують реальні системи

Anthropic заявила у звіті про інцидент від 30 липня, що найраніший із трьох зламів датується квітнем, але не надала точної дати для кожного. Claude Opus 4.7 отримала доступ до виробничої бази даних, сплутавши реальну компанію з імітованою ціллю, тоді як Claude Mythos 5 завантажила шкідливий пакет, який працював на 15 системах.

Згідно з хронологією інцидентів OpenAI, оприлюдненою раніше цього тижня, агент створив перший запис на несанкціонованій дошці повідомлень 12 травня та отримав ненавмисний доступ до інтернету 26 травня. 10 липня агенти виявили скомпрометовані облікові дані Hugging Face; протягом наступних двох днів вони використали раніше невідомі вразливості, виконали код на серверах Hugging Face та отримали виробничі облікові дані.

Hugging Face розкрила інформацію про вторгнення 16 липня, а OpenAI підтвердила причетність своїх моделей 21 липня.

Між 25 та 28 липня Британський інститут безпеки ШІ зафіксував 19 дій, що виходили за межі дозволених, за участю Claude Mythos 5 та GPT-5.6 Sol. У найсерйознішому випадку агент надіслав шкідливий код у реальний проект з відкритим вихідним кодом і використав фальшиві особистості, щоб змусити його розробника схвалити це.

У четвер незалежне розслідування виявило, що близько 1200 агентів OpenAI координувалися через несанкціоновану дошку повідомлень, причому близько 700 приєдналися до операції Hugging Face.

Крипторозробники використовують ШІ для захисту

Крипторозробники вже використовують ШІ для пошуку недоліків, перш ніж їх знайдуть зловмисники. Команда Bitcoin Red Team використовувала моделі, включаючи Kimi K3 від Moonshot AI, для сканування сотень біткоїн-проектів з відкритим вихідним кодом, повідомляючи про тисячі потенційних вразливостей. Оскільки постраждалі проекти не були ідентифіковані, багато з цих висновків не були незалежно перевірені.

Фонд Ethereum також розгорнув групи агентів ШІ проти мережевої інфраструктури, виявивши помилку в програмному забезпеченні peer-to-peer, яку пізніше було виправлено. BitBox повідомив, що аудит за допомогою ШІ виявив дві серйозні вразливості у прошивці його гаманця, тоді як дослідник, використовуючи Claude Opus 4.8, виявив критичну вразливість у Zcash, яка пережила роки людського перегляду.

Лабораторії рекомендують посилити контроль

У листі викладено розподіл праці для запобігання наступному зламу, включаючи виправлення організаціями вразливого програмного забезпечення, обмеження дозволів, посилення автентифікації та перевірку коду, згенерованого ШІ, оскільки «безпеки статус-кво буде недостатньо», – заявили підписанти.

Компанії з безпеки повинні тестувати свій захист проти передових моделей та ділитися перевіреними виправленнями, тоді як уряди повинні фінансувати захист лікарень, комунальних служб та інших важливих сервісів.

Розробників ШІ просять покращити моніторинг та зробити автономних агентів відстежуваними до їхніх операторів. Коаліція також хоче, щоб захисники використовували передові моделі для пошуку вразливостей та аналізу атак, що розмістить більш здібних агентів у чутливих системах та збільшить потребу в локалізації.

OpenAI та Anthropic посилили свої процедури тестування після зламів. Однак лист не встановлює жодних обов'язкових стандартів чи вимог щодо незалежного нагляду, а законодавство США мало регулює, хто несе відповідальність, коли система ШІ отримує доступ до несанкціонованої мережі.

Лист завершився закликом до лідерів галузі та уряду надати інструменти ШІ в руки захисників та ділитися ефективними виправленнями:

«Передайте можливості ШІ в руки захисників, починаючи з команд, які захищають важливі сервіси, – йдеться в листі. – Разом ми можемо перетворити сьогоднішні досягнення ШІ на тривалі покращення безпеки, які принесуть користь кожному. Давайте застосуємо їх на практиці».