OpenAI a întrebat membrii Congresului dacă firmele rivale de inteligență artificială ar putea fi de acord legal să încetinească dezvoltarea, în timp ce cercetătorul său șef îndeamnă industria să stabilească standarde comune de siguranță.

Potrivit WIRED, care a citat persoane apropiate companiei, OpenAI a întrebat parlamentarii în ultimele săptămâni dacă un acord între companiile de inteligență artificială pentru a încetini dezvoltarea ar putea încălca legile antitrust.

Contactul cu parlamentarii vine după apelul cercetătorului șef al OpenAI, Jakub Pachocki, pentru încetiniri voluntare până când dezvoltatorii pot demonstra mai bine că sistemele lor sunt sigure. Dar companiile se confruntă cu presiunea de a continua avansarea chiar și atunci când propriii lor cercetători au îngrijorări.

„Competiția comercială și geopolitică în spațiul IA este incredibil de intensă, ducând la o dinamică îngrijorătoare în care companiile sunt motivate să lanseze produse înainte ca riscurile lor să fie pe deplin înțelese”, a declarat Miranda Bogen, șef tehnolog la Center for Democracy and Technology, pentru Decrypt.

„Chiar și atunci când personalul intern știe că sunt necesare mai multe cercetări și teste, companiile lor se confruntă cu o presiune imensă de a reduce costurile și de a sări peste testele critice de siguranță, în ciuda dovezilor care se acumulează cu privire la consecințele mișcării prea rapide”, a adăugat ea.

Un acord pentru a încetini dezvoltarea IA ar putea ridica preocupări antitrust prin restricționarea concurenței. Senatorii Adam Schiff și Jim Banks au introdus legislație pentru a proteja anumite colaborări de securitate, sub rezerva notificării prealabile către Departamentul de Justiție.

Dezbaterea privind încetinirea dezvoltării IA vine în contextul în care Statele Unite și China concurează pentru leadership în tehnologie. Președintele american Donald Trump a amânat un ordin executiv privind IA în mai, din cauza îngrijorărilor că ar putea slăbi avansul Americii față de China. Trump a semnat ulterior ordinul în iunie, creând un proces voluntar de revizuire pentru modelele avansate înainte de lansare.

Mai direct decât preocupările de securitate națională, stimulentele financiare ar putea face dificil un acord.

„Fiecare avans în condițiile actuale generează milioane sau miliarde în plus în finanțare și plasează creatorii acelui avans într-o poziție mai mare de putere și influență”, a declarat Duncan Sabien, șef de comunicare la Machine Intelligence Research Institute, pentru Decrypt.

Numind dinamica cursei înarmărilor reală, Sabien a spus că OpenAI și Anthropic se confruntă cu presiunea de a continua avansarea în ciuda riscurilor incerte, deoarece fiecare nou sistem ajută la construirea unor succesori mai capabili, permițând unui rival să preia conducerea dacă una dintre companii încetinește fără un acord comun.

„Acest lucru este valabil mai ales deoarece câștigurile în inteligență sunt cumulative; fiecare nou sistem face mai ușoară antrenarea și implementarea următorului sistem, mai avansat”, a spus el. „Fără un fel de mecanism de coordonare, a face un pas înapoi înseamnă pur și simplu că celălalt obține un avans.

În august, OpenAI a întrerupt lucrul intern la Astra, lipsind garanții mai puternice în privința preocupărilor de securitate cibernetică. Cu toate acestea, atât OpenAI, cât și Anthropic și-au relaxat angajamentele de siguranță în februarie, directorul științific al Anthropic, Jared Kaplan, argumentând că încetinirea dezvoltării în mod independent avea mai puțin sens în timp ce concurenții continuau să avanseze.

Dezbaterea privind încetinirea dezvoltării IA a escaladat săptămâna aceasta după ce fostul inginer Anthropic Jacob Coxon și-a anunțat public demisia, citând preocupări legate de riscurile pe care dezvoltarea continuă a IA le-ar putea crea pentru umanitate.

„Oamenii care construiesc inteligența artificială cred cu tărie că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a declarat Coxon pe X, spunând că nu a fost o „manevră de marketing”.

„Dacă e ceva, mulți directori și cercetători seniori își vor modera exprimarea în presă pentru a suna rezonabil – dar aud aceleași persoane exprimând teamă în privat. Nicio altă activitate umană nu prezintă acest nivel de pericol”, a scris el.

Cu toate acestea, Sabien a spus că cercetătorii ar putea realiza puțin plecând, dacă altcineva le ia pur și simplu locul.

„Dacă suficienți dintre ei ajung la o înțelegere comună că ar trebui să se oprească cu toții, atunci pot depăși bariera de coordonare și să se oprească împreună, în loc să fie pur și simplu înlocuiți de următoarea persoană puțin mai puțin precaută”, a spus el.