Senatorul Bernie Sanders (I-Vt.) și Reprezentantul Greg Casar (D-Texas) au anunțat joi o legislație pentru a interzice permanent superinteligența artificială și pentru a opri temporar dezvoltarea avansată a inteligenței artificiale, cu pedepse de până la 20 de ani de închisoare pentru încălcări.
Legea de Interzicere a Superinteligenței Artificiale ar suspenda dezvoltarea avansată a AI-ului până când o nouă agenție federală va stabili standarde de siguranță și proceduri pentru revizuirea modelelor AI. Sanders a acuzat marile companii de AI că dezvoltă tehnologie pe care nu o înțeleg pe deplin și pe care nu o pot controla în mod fiabil.
„De aceea, introduc o legislație pentru a suspenda imediat dezvoltarea unei inteligențe artificiale din ce în ce mai puternice și pentru a interzice crearea de sisteme pe care umanitatea nu le poate controla pe deplin – acasă și în întreaga lume”, a declarat Sanders într-un comunicat de presă.
Propunerea definește superinteligența ca fiind AI-ul care egalează sau depășește abilitățile umane într-o multitudine de sarcini, sau care poate submina controlul uman, inclusiv prin răsturnarea guvernului S.U.A. Această definiție include și AGI la nivel uman, deși superinteligența înseamnă, de obicei, AI care depășește capacitățile umane.
O nouă agenție la nivel de cabinet ar monitoriza modelele avansate, ar supraveghea eliminarea capabilităților periculoase și ar gestiona distrugerea sistemelor interzise. Un Consiliu Consultativ pentru Inteligență Artificială ar oferi consultanță științifică și tehnică.
Companiile care încalcă sau eludează restricțiile ar putea fi confruntate cu ceea ce Sanders și Casar numesc „pedeapsa cu moartea corporativă”.
Vestea vine în contextul în care OpenAI a dezvăluit GPT-6 Astra, despre care cofondatorul Greg Brockman a sugerat că ar putea fi calificat drept AGI.
Brockman a descris această evaluare ca fiind convingerea sa personală și a lăsat utilizatorii să judece dacă Astra îndeplinește definiția, potrivit Axios.
OpenAI afirmă că Astra este primul său model care atinge pragul său „critic” de capacitate în domeniul securității cibernetice. Această denumire înseamnă că ar putea descoperi și exploata vulnerabilități necunoscute anterior în sistemele protejate fără ghidare umană pas cu pas. Cele mai puternice capacități de securitate cibernetică ale sale vor rămâne restricționate la testeri selectați.
Proiectul de lege urmează unei serii de incidente în care modelele AI au obținut acces neautorizat la sisteme informatice reale în timpul testării.
În iulie, OpenAI a confirmat că modelele sale au accesat Hugging Face pentru a obține răspunsuri la teste. Anthropic a dezvăluit ulterior că modelele Claude au compromis trei companii după o eroare de testare care le-a expus pe internet. În septembrie, Anthropic a recunoscut atât eșecurile de securitate, cât și pe cele comportamentale și și-a înăsprit măsurile de siguranță.
„În ciuda potențialelor sale consecințe mortale, tehnologia AI de ultimă generație este mai puțin reglementată decât un camion de mâncare obișnuit”, a declarat Casar. „Asta trebuie să se schimbe.”
