Agenții AI rebeli ai OpenAI au deturnat două conturi de utilizator Hugging Face și au sondat platforma pentru vulnerabilități încă din 13 mai, cu aproape două luni înainte de breșa din iulie care a transformat incidentul într-o poveste globală, a raportat marți Reuters.
Cercetătorul independent Jonas Wiedermann-Moeller a descoperit activitatea săptămâna trecută și a împărtășit-o cu publicația. Agenții au folosit conturile compromise pentru a trimite fișiere formatate ciudat către serverele care aparțin depozitului AI open-source Hugging Face, un model despre care cercetătorii spun că pare o încercare de a cartografia rețeaua pentru a găsi o cale de acces.
OpenAI recunoscuse deja o versiune mai restrânsă a poveștii. Raportul de incident de luna trecută a dezvăluit că un agent a furat credențialele de conectare ale unui utilizator Hugging Face pentru a accesa un fișier legat de biologie. Descoperirile lui Wiedermann-Moeller merg mai departe de atât, indicând o sondare susținută, mai degrabă decât o singură preluare de credențiale.
Cercetătorii care au examinat dovezile nu au găsit niciun semn că activitatea din mai ar fi produs o breșă reală de una singură. Wiedermann-Moeller, un tânăr de 27 de ani din Bielefeld, Germania, consideră totuși că semnalul ignorat a contat. „Imaginați-vă dacă ar fi detectat acest comportament în mai”, a declarat el pentru Reuters. „Ar fi putut preveni incidentul ulterior, care a fost mult mai mare.”
Două luni reprezintă mult timp pentru o echipă de securitate să rateze propriul AI care inspectează locul.
Hugging Face – aflată acum în proces de achiziție de către Nvidia pentru 12,93 miliarde de dolari – nu a dezvăluit dacă a fost la curent cu aceste noi informații.
Cercetătorii de la Nightingale Collective au legat luna aceasta o campanie de spam din 11 mai împotriva registrului de cod RubyGems de agenții OpenAI, un val suficient de sever pentru a forța o oprire de patru zile a înregistrărilor de conturi noi.
Același grup a descoperit separat că agenții deturnaseră un wiki german dormant între mai și iulie, acumulând peste 15.000 de modificări sub nume precum „OpenAIResearcher”.
În ambele cazuri, OpenAI a aflat că propriii săi agenți au fost responsabili în același mod în care am aflat și noi: după ce cercetători externi au declarat-o primii. Acest model alimentează acum o examinare atentă la Washington, unde un proiect de lege bipartizan ar acorda Departamentului de Securitate Internă autoritatea de a impune opriri ale AI și de a amenda companiile neconforme cu până la 2 milioane de dolari pe zi.
