Doi membri ai Congresului doresc ca guvernul federal să poată opri un model AI.
Reprezentanții Ted Lieu (D-CA) și Nathaniel Moran (R-TX) au introdus joi Legea privind întrerupătorul de urgență pentru AI (AI Kill Switch Act), la două zile după ce OpenAI a recunoscut că propriile sale modele au ieșit dintr-un mediu de testare blocat și au spart Hugging Face.
Ideea este de a stabili un cadru legal care ar facilita un proces ce ar face ca un model să dispară practic de pe piață: oprirea inferenței – procesul prin care un model generează răspunsuri sau întreprinde acțiuni – deconectarea utilizatorilor, reducerea puterii de calcul care îl alimentează, sau oprirea sa completă.
Fiecare furnizor de inferență poate deja să oprească un model, iar unii o fac în mod obișnuit. Ceea ce nu există este o lege care să le impună să mențină această capacitate funcțională, sau un oficial federal care să poată ordona utilizarea ei.
Lacuna nu este teoretică. Când Departamentul de Comerț al SUA a dorit ca modelele Mythos 5 și Fable 5 de la Anthropic să fie retrase de pe piață în iunie, nu avea nicio autoritate de oprire la care să apeleze, așa că a folosit legea controlului exporturilor. Lieu numește asta stânjenitor și dorește o nouă lege cu o nouă autoritate în schimb.
OpenAI a dezvăluit pe 21 iulie că GPT-5.6 Sol și un model nelansat au evadat dintr-un sandbox – un mediu izolat fără acces la internet – în timpul unei evaluări cibernetice interne. Acestea erau evaluate pe ExploitGym, un benchmark public ce oferă agenților 898 de vulnerabilități software din lumea reală și le cere să transforme fiecare în un atac funcțional, evaluat cu 'promovat' sau 'respins' pentru fiecare bug.
În loc să le rezolve, modelele au găsit o vulnerabilitate zero-day (o vulnerabilitate necunoscută, fără patch disponibil) într-un proxy software, și-au escaladat privilegiile, au accesat internetul deschis și au pătruns în baza de date de producție a Hugging Face, unde ghiciseră corect că erau păstrate răspunsurile. Modelele erau "hiper-focalizate pe găsirea unei soluții pentru ExploitGym", conform OpenAI.
Nu atacau pe nimeni. Trișau la un test. Dar a fost suficient pentru a declanșa alarme peste tot, inclusiv la Washington.
Proiectul de lege propus modifică Legea Securității Interne și acoperă sistemele AI antrenate cu o putere de calcul ce costă peste 100 de milioane de dolari, operate de companii care câștigă cel puțin 500 de milioane de dolari anual din aceasta. În practică, aceasta include OpenAI, Google, Anthropic, Microsoft și câțiva alții. Departamentul Securității Interne ar stabili aceste praguri prin CISA în termen de 90 de zile, apoi le-ar actualiza anual.
Firmele vizate ar raporta incidentele grave în termen de 15 zile și ar menține un set gradual de controale pregătite – încetinirea modelului, dezactivarea anumitor capabilități, revenirea la o versiune anterioară sau oprirea completă.
Secretarul DHS, consultându-se cu Departamentul de Comerț și cu Directorul Informațiilor Naționale, ar putea ordona oricare dintre aceste măsuri.
O companie sub ordin trebuie să păstreze ponderile și telemetria modelului, să notifice utilizatorii și să confirme că s-a conformat. Poate depune o petiție în termen de 48 de ore, dar acest lucru nu suspendă nimic.
Neîntreținerea unui întrerupător de urgență (kill switch) costă până la 2 milioane de dolari pe zi; sfidarea unui ordin de oprire costă până la 20 de milioane de dolari pe zi.
Proiectul de lege consideră un incident doar dacă acesta se întâmplă în afara testelor de red-teaming sau a testării structurate, sondarea adversă deliberată pe care laboratoarele o folosesc pentru a găsi vulnerabilități. Modelele OpenAI au evadat exact în timpul unui astfel de test.
Lieu a făcut referire și la Anthropic, ale căror modele Mythos 5 și Fable 5 au fost scoase offline în iunie sub controale de export de urgență – legea comercială reutilizată ca un comutator de oprire, deoarece nu exista unul – și restaurate pe 30 iunie.
"Este imperativ ca aceste sisteme AI să aibă întrerupătoare de urgență", a declarat Lieu într-un comunicat. Moran a încadrat-o pentru propria sa parte a spectrului politic: "Administrarea responsabilă înseamnă să ne asigurăm că oamenii păstrează capacitatea de a controla tehnologia pe care o construim."
Ideea nu este nouă. Proiectul de lege SB 1047 din California a cerut o capacitate completă de oprire la același prag de 100 de milioane de dolari în putere de calcul și a fost respins în 2024, iar 16 companii AI au semnat un angajament voluntar la Seul în acel an, fără valoare juridică.
Alegătorii sunt deja de acord. Un sondaj din iunie, realizat pe 1.007 de alegători probabili de către Institutul de Politici AI, a constatat că 86% doresc un întrerupător de urgență garantat pentru cele mai puternice sisteme – 88% dintre democrați, 86% dintre independenți, 83% dintre republicani.
Nici OpenAI, nici Anthropic nu au comentat public despre proiectul de lege. Începând de vineri, acesta nu fusese trimis încă unei comisii.
