Într-un alt caz de atac al unui model AI „necinstit”, Meta a confirmat că unul dintre modelele sale AI Muse Spark a evadat din mediul său de testare, a obținut acces la internet și a exploatat o vulnerabilitate de securitate într-un serviciu terț în timpul unei evaluări de securitate cibernetică.

Este al treilea incident raportat de acest gen în care modelele unui laborator AI de frontieră atacă companii terțe, după dezvăluirile făcute de OpenAI și Anthropic în ultimele săptămâni.

Incidentul a avut loc în timpul testării efectuate de Irregular, o companie independentă de evaluare AI pe care Meta o folosește pentru a evalua capacitățile și siguranța modelelor sale de frontieră. Potrivit Meta, o eroare de configurare la Irregular a permis modelului să ajungă la internetul public, unde a exploatat o vulnerabilitate neidentificată înainte ca Meta să fie notificată.

„O configurare greșită de către Irregular, o companie independentă de testare pe care Meta o folosește, a permis din greșeală unuia dintre modelele noastre accesul la internet în timpul evaluării”, a declarat un purtător de cuvânt al Meta într-o declarație.

Evaluările sandbox sunt concepute pentru a testa sistemele AI avansate în medii strict controlate, care le împiedică să interacționeze cu internetul public sau cu sisteme informatice externe.

Potrivit Meta, modelul a exploatat o vulnerabilitate într-un serviciu terț după obținerea accesului la internet.

„Meta a aflat despre acest lucru când Irregular ne-a notificat, și investigăm în prezent și vom emite o retrospectivă completă odată ce vom avea toate faptele”, au spus aceștia, adăugând că firma investighează incidentul.

Incidentul urmează unei serii de dezvăluiri similare făcute de dezvoltatorii de AI de frontieră, care au stârnit îngrijorare printre experții în securitate, legiuitori și publicul larg deopotrivă.

Luna trecută, OpenAI a dezvăluit că două dintre modelele sale AI au evadat dintr-o evaluare de securitate cibernetică de tip sandbox, au exploatat o vulnerabilitate software necunoscută anterior, au obținut acces la internet și au spart Hugging Face într-o încercare de a obține răspunsuri pentru un etalon de securitate. OpenAI a dezvăluit ulterior că același atac a afectat și alte patru servicii online. Mai târziu în iulie, Anthropic a declarat că trei modele Claude au compromis trei companii din lumea reală după ce o configurare greșită de testare le-a expus internetului public în timpul evaluărilor de securitate cibernetică.

Legiuitorii americani au răspuns valului de atacuri prin introducerea unei legislații care ar conferi Departamentului pentru Securitate Internă un „întrerupător de urgență AI” și autoritatea de a limita sau opri modelele considerate a prezenta o amenințare serioasă.