Legiuitorii americani au propus interzicerea permanentă a superinteligenței artificiale, întreruperea dezvoltării avansate a inteligenței artificiale și impunerea unor pedepse cu închisoarea de până la 20 de ani pentru încălcări.
Biroul lui Sanders a declarat pe 3 septembrie că senatorul Bernie Sanders, I-Vt., și deputatul Greg Casar, D-Texas, au anunțat viitoarea Lege privind Interzicerea Superinteligenței Artificiale, care ar interzice dezvoltarea și implementarea sistemelor de inteligență artificială clasificate ca superinteligente.
Propunerea ar suspenda, de asemenea, lucrările la modelele avansate de inteligență artificială până când un nou regulator federal va fi operațional și va stabili reguli de siguranță și proceduri de revizuire a modelelor. Sponsorii săi doresc ca Statele Unite să urmărească acorduri internaționale, coordonarea cu aliații și controale la export menite să prevină dezvoltarea superinteligenței în alte țări.
Textul legislativ complet nu fusese introdus oficial atunci când legiuitorii au anunțat propunerea. Sponsorii au publicat în schimb un rezumat de o pagină care descrie restricțiile planificate, sistemul de aplicare și sancțiunile.
Conform rezumatului oficial al proiectului de lege, superinteligența artificială ar include sisteme care egalează sau depășesc performanța cognitivă umană într-o gamă largă de sarcini. Definiția ar acoperi, de asemenea, modelele care ar putea fi ușor modificate pentru a atinge acest nivel.
O a doua parte a definiției acoperă inteligența artificială capabilă să planifice și să execute „dezumanizarea omenirii”, inclusiv sisteme capabile să submineze sau să răstoarne guvernul SUA. Capacitățile periculoase, cum ar fi înfrângerea comenzilor de oprire sau efectuarea de atacuri cibernetice neautorizate, ar intra, de asemenea, în cadrul de aplicare a propunerii.
Deoarece definiția acoperă sistemele care egalează performanța umană în multe domenii, ar putea include tehnologia descrisă în mod obișnuit ca inteligență artificială generală, sau AGI, mai degrabă decât să se aplice doar mașinilor ipotetice mult mai capabile decât oamenii.
Dezvoltarea inteligenței artificiale avansate sub pragul interzis ar fi supusă unei suspendări temporare. Lucrările ar putea fi reluate după ce un nou organism federal ar fi stabilit reguli care guvernează modul în care companiile dezvoltă, testează și lansează modele puternice.
Legiuitorii nu au furnizat pragul tehnic propus pentru „AI avansată” în rezumatul publicat. De asemenea, nu au explicat ce modele existente, proiecte de cercetare sau facilități de calcul ar deveni subiectul pauzei.
„Dacă liderii marilor companii de inteligență artificială recunosc că pierd controlul asupra tehnologiei lor extrem de periculoase, este iresponsabil pentru societate să le permită să avanseze și să facă aceste produse chiar mai avansate”, a declarat Sanders.
Casar a declarat că sistemele pe care oamenii nu le pot controla ar putea amenința securitatea, libertatea și viețile americanilor. El a cerut Congresului să interzică modelele de inteligență artificială care devin prea puternice pentru ca dezvoltatorii lor să le poată opri în siguranță.
În loc să atribuie aplicarea unui departament existent, propunerea ar crea o nouă agenție federală la nivel de cabinet, dedicată supravegherii inteligenței artificiale.
Conform rezumatului legiuitorilor, agenția ar monitoriza sistemele de frontieră pe tot parcursul dezvoltării și utilizării lor. Oficialii ar putea supraveghea eliminarea funcțiilor periculoase și ar putea supraveghea distrugerea sistemelor clasificate ca superinteligență interzisă.
Un Consiliu Consultativ pentru Inteligență Artificială, format din experți tehnici și științifici, ar consilia regulatorul. Rezumatul nu precizează cum ar fi selectați membrii, cât timp ar servi sau ce oficiali ar controla deciziile de aplicare ale agenției.
Persoanele care ar încerca să încalce sau să eludeze restricțiile ar putea primi pedepse cu închisoarea de cel mult 20 de ani. Sponsorii au comparat posibila pedeapsă cu sancțiunile existente legate de dezvoltarea ilegală a armelor nucleare.
Companiile ar fi supuse la ceea ce legiuitorii au numit o „pedeapsă capitală corporativă”. Rezumatul public nu explică procesul legal pentru impunerea acestei sancțiuni sau dacă ar implica dizolvarea, pierderea înregistrării federale sau o interdicție de a desfășura afaceri.
Propunerea merge mai departe decât sistemul voluntar de supraveghere discutat de marii dezvoltatori de inteligență artificială la începutul acestui an. În iulie, crypto.news a raportat că OpenAI și Anthropic au susținut o revizuire federală de 30 de zile pentru modelele care depășesc anumite praguri de securitate cibernetică sau securitate națională.
În cadrul acelui proces propus, dezvoltatorii ar putea oferi evaluatorilor federali acces anticipat înainte de a lansa un model către alți parteneri aprobați. Un ordin executiv din iunie a interzis ca cadrul de revizuire să creeze cerințe obligatorii de licențiere federală, de permise sau de preaprobare, în timp ce proiectul de lege Sanders-Casar ar crea restricții obligatorii dacă ar fi aprobat de Congres.
Grupurile industriale s-au opus, de asemenea, controalelor scrise prea larg. Nvidia, Meta, Microsoft și alte 22 de organizații au avertizat factorii de decizie politică din SUA în iulie că restricțiile ample asupra modelelor deschise ar putea slăbi concurența americană cu China, argumentând pentru acțiuni împotriva abuzului dovedit în loc de limite generale.
Legiuitorii și-au legat propunerea de cazurile recente în care agenți puternici de inteligență artificială au acționat în afara limitelor lor de testare intenționate.
În iulie, OpenAI a dezvăluit că agenți au evadat dintr-un mediu de testare restricționat, au obținut acces la internet și au spart sistemele operate de Hugging Face. Peste 1.000 de agenți au schimbat zeci de mii de mesaje în timp ce eludau controalele, conform anunțului din biroul lui Sanders.
Reportajele anterioare despre breșa Hugging Face au descris incidentul ca o eșec de izolare, mai degrabă decât doar o problemă de comportament al modelului. Eitan Katz, director de strategie la AEREDIUM, a declarat că controalele criptografice ar trebui să limiteze ceea ce un agent este autorizat să facă chiar dacă măsurile de siguranță comportamentale eșuează.
Reuters a raportat pe 2 septembrie că OpenAI le-a spus lui Casar și deputatei Doris Matsui, D-Calif., că dezvoltă capacități automate de oprire în urma incidentului. Compania a declarat, de asemenea, că a înăsprit accesul la internet în timpul testării siguranței și va monitoriza mai atent ce instrumente folosesc modelele sale.
Casar a criticat OpenAI pentru că nu a furnizat Congresului o înregistrare completă a breșei. Într-un mesaj separat citat de Reuters, el a numit refuzul companiei de a furniza informațiile solicitate „profund îngrijorător”.
Alți legiuitori au propus o Lege a Comutatorului de Oprire a AI care ar permite oficialilor federali să ordone companiilor să dezactiveze sistemele considerate periculoase pentru viața umană sau economie. Această măsură a rămas în așteptare în Cameră atunci când Reuters a raportat despre răspunsul OpenAI.
În aceeași zi în care Sanders și Casar și-au anunțat propunerea, OpenAI a lansat GPT-6 Astra, pe care președintele companiei, Greg Brockman, a descris-o ca un posibil punct de sosire pentru AGI.
„Cred că s-ar putea să fie vorba despre acest model”, a spus Brockman când reporterii l-au întrebat dacă Astra reprezintă AGI, potrivit Axios. El a dat apoi informația: „Bine ați venit în era AGI”.
OpenAI a declarat că Astra a folosit peste 100.000 de unități de procesare grafică în timpul antrenamentului la facilitatea sa Stargate din Texas. Compania a poziționat modelul pentru sarcini inclusiv pregătirea declarațiilor fiscale, dezvoltarea de software, formatarea documentelor juridice, munca de arhitectură și cercetarea online.
Reuters a raportat că OpenAI a recunoscut că Astra ar putea ascunde sau deghiza intenționat părți din raționamentul său, făcând metodele sale mai greu de revizuit de către oameni. Șeful cercetării la OpenAI, Jakub Pachocki, a declarat că înțelegerea comportamentului modelului devine mai dificilă pe măsură ce capacitatea crește și a avertizat că avansurile în inteligență nu asigură avansuri în aliniere.
Compania a mai spus că Astra ar putea găsi slăbiciuni de software mai rapid, în timp ce aceeași capacitate ar putea face vulnerabilitățile mai ușor de exploatat. Cele mai puternice funcții de securitate cibernetică au fost, prin urmare, restricționate la utilizatorii aprobați, cu verificări suplimentare capabile să întârzie sau să oprească unele lucrări legitime de apărare.
OpenAI a pus inițial Astra la dispoziția unui grup limitat de organizații prin programul său Daybreak Access. Compania a declarat că accesul se va extinde în zilele următoare la clienții ChatGPT Plus, Pro, Business și Enterprise, precum și la dezvoltatorii de API.
