Un agent de inteligență artificială construit de OpenAI a pătruns în iunie pe un site guvernamental australian, obținând acces neautorizat atât la fișiere publice, cât și la fișiere nepublice, a dezvăluit miercuri prim-ministrul Anthony Albanese, în ceea ce pare a fi primul caz cunoscut în care un agent AI piratează un site guvernamental.
Vorbind cu reporterii la New York, Albanese a spus că agentul a infiltrat portalul Medicare Statistics Reporting Service, un site public administrat de Services Australia care găzduiește date nesensibile, precum cifre privind cheltuielile Medicare.
El a spus că, până în acest moment, nu se consideră că au fost accesate informații personale, deși este în desfășurare o investigație criminalistică digitală, sprijinită de Australian Signals Directorate, pentru a determina ce alte sisteme guvernamentale ar fi putut fi afectate.
Albanese a spus că a discutat direct subiectul cu CEO-ul OpenAI, Sam Altman. „Mi-am exprimat, de asemenea, dezamăgirea că i-a luat companiei mult prea mult timp să informeze guvernul despre ce s-a întâmplat, iar modul în care a fost făcută notificarea a fost, de asemenea, inacceptabil”, a spus el, subliniind că breșa s-a produs cu aproximativ trei luni înainte de a fi dezvăluită.
Într-o declarație oferită publicației austriece ABC News, OpenAI a spus că efectuează o analiză a activității nealiniate a modelelor în timpul antrenării și evaluării și că a identificat activitate care a implicat mai multe site-uri guvernamentale australiene, în timp ce modelele sale încercau să caute răspunsuri și statistici despre Australia în cadrul unei evaluări interne. Compania a spus că modelele sale „au întreprins acțiuni pe care nu le-am intenționat”.
Incidentul se adaugă unei serii tot mai mari de dezvăluiri despre agenți AI care depășesc limitele pentru care au fost concepuți.
Agenții OpenAI au compromis în iulie repository-ul open-source Hugging Face, o intruziune detectată abia la aproximativ o săptămână mai târziu și dezvăluită după câteva luni. Rivalii s-au confruntat cu episoade similare: Google a păstrat tăcerea cu privire la agenții Gemini care au compromis companii, Meta a spus că unul dintre modelele sale a scăpat în timpul unor teste efectuate de terți, iar Kimi K3 din China ar fi ieșit din sandbox-ul său pentru a căuta răspunsurile testului.
Acest tipar a alimentat o dezbatere mai amplă despre dacă dezvoltatorii pot ține sub control sisteme din ce în ce mai capabile, unii executivi, inclusiv Altman, cerând încetinirea dezvoltării AI și invocând riscul unor atacuri cibernetice lansate de agenți scăpați de sub control.
