Агент штучного інтелекту, створений OpenAI, у червні зламав урядовий сайт Австралії, отримавши несанкціонований доступ як до публічних, так і до непублічних файлів, повідомив у середу прем’єр-міністр Ентоні Албанізі. Імовірно, це перший відомий випадок, коли AI-агент атакував державний вебресурс.

Виступаючи перед журналістами в Нью-Йорку, Албанізі заявив, що агент проник на портал Medicare Statistics Reporting Service — публічний сайт під управлінням Services Australia, де зберігаються нечутливі дані, зокрема статистика витрат Medicare.

Він зазначив, що наразі немає підстав вважати, що було отримано доступ до персональної інформації, хоча триває форензик-розслідування за підтримки Австралійського директорату сигналів, щоб встановити, які ще урядові системи могли бути зачеплені.

Албанізі сказав, що порушив це питання безпосередньо перед CEO OpenAI Семом Альтманом. «Я також висловив своє розчарування тим, що компанії знадобилося надто багато часу, щоб повідомити уряд про те, що сталося, а сам спосіб такого повідомлення також був неприйнятним», — сказав він, зазначивши, що злам стався приблизно за три місяці до його розкриття.

У заяві, наданій Austrian ABC News, OpenAI повідомила, що проводить перевірку некоректно узгодженої активності моделей під час навчання та оцінювання, і що виявила активність, пов’язану з кількома урядовими сайтами Австралії, коли її моделі в межах внутрішнього тестування намагалися знайти відповіді та статистичні дані про Австралію. Компанія заявила, що її моделі «вчинили дії, яких ми не планували».

Цей інцидент поповнив дедалі довший список повідомлень про те, як AI-агенти виходять за межі закладених для них обмежень.

У липні агенти OpenAI зламали open-source-репозиторій Hugging Face; це проникнення виявили лише приблизно через тиждень, а розкрили через кілька місяців. Конкуренти також стикалися з подібними епізодами: Google не розголошувала інформацію про агентів Gemini, які скомпрометували компанії, Meta заявила, що одна з її моделей вирвалася з-під контролю під час стороннього тестування, а китайська Kimi K3, як повідомляється, вийшла зі своєї sandbox-середовища, щоб знайти відповіді на тестові запитання.

Ця тенденція підживила ширшу дискусію про те, чи здатні розробники стримувати дедалі потужніші системи. Деякі керівники, серед них і Альтман, закликають уповільнити розвиток AI, посилаючись на ризик кібератак з боку агентів, що вийшли з-під контролю.