CEO-ul OpenAI, Sam Altman, spune că firmele de inteligență artificială ar trebui să accepte o dezvoltare mai lentă pentru a-și face sistemele mai sigure și să înceapă să consolideze măsurile de siguranță fără a aștepta legislația.

Într-o postare pe X duminică, șeful companiei din spatele ChatGPT a declarat că dezvoltarea rapidă a AI riscă să pună viitorul dincolo de controlul uman sau să concentreze prea multă putere într-o singură persoană sau companie, menționând „două moduri în care progresul AI ar putea merge foarte prost și pe care trebuie să le evităm”

„În primul rând, am putea pierde controlul viitorului în fața AI. Acest lucru este inacceptabil; suntem fără echivoc de partea Echipei Umane, iar AI trebuie să servească întotdeauna oamenii”, a scris Altman. „Pentru a asigura acest lucru, avem nevoie de modalități de a ne asigura că tehnicile de aliniere și siguranță rămân înaintea progresului în capacitățile modelelor.”

În al doilea rând, a avertizat Altman, puterea ar putea deveni concentrată într-o singură persoană sau companie, permițându-le acestora să folosească o AI extraordinar de puternică pentru a-și impune viziunea asupra lumii tuturor celorlalți, cu rezultate potențial distopice.

„Evitarea acestor două amenințări necesită parcurgerea unei căi de mijloc înguste; de exemplu, o țară ar putea câștiga prea multă putere”, a scris el. „Un alt exemplu este un singur laborator care ajunge să aibă prea multă putere.”

Într-o postare separată, Altman a declarat că firmele americane de AI trebuie să ofere publicului încrederea că vor dezvolta sisteme din ce în ce mai capabile în mod responsabil pe măsură ce progresele se accelerează. Postarea sa vine în urma unei creșteri a dezbaterilor privind modul în care guvernele ar trebui să reglementeze inteligența artificială avansată.

„Când vorbim despre „ritm”, nu înțelegem „oprire””, a scris el. „Progresul a fost rapid și va continua să fie. Dar ar trebui să fie mai lent decât ar putea fi altfel; intervențiile precum cazurile de siguranță și monitorizarea au costuri semnificative.”

Altman a spus că firmele au nevoie de noi instrumente pentru a evalua siguranța în timpul dezvoltării și evaluării AI, extinzând verificările dincolo de modelele finalizate care așteaptă lansarea.

„De exemplu, la OpenAI formulăm acum studii de caz explicite privind siguranța în avansul rulărilor de învățare prin consolidare de frontieră despre care ne așteptăm să crească semnificativ capacitatea, pe lângă munca de siguranță pe care am făcut-o de mult timp înaintea lansărilor de modele”, a spus el.

Altman a îndemnat companiile să colaboreze pentru a preveni ca sistemele AI să urmărească obiective care contravin intereselor umane.

„Sperăm că alte companii vor învăța din abordările noastre și vor propune propriile lor; credem că standardele comune pentru nealiniere, monitorizare și siguranță vor duce la rezultate mai bune”, a scris el.

În timp ce Altman a salutat reglementările federale de siguranță și auditorii independenți, el a îndemnat companiile să acționeze fără a aștepta legislația sau o derogare antitrust, în urma rapoartelor de vineri conform cărora OpenAI a întrebat Congresul dacă rivalii ar putea coordona legal o încetinire.

„Acolo unde vom avea nevoie de ajutorul guvernului nostru este pentru coordonarea internațională”, a scris el. „Dar mai întâi ar trebui să facem ceea ce putem noi înșine.”

Comentariile sale vin în urma eșecurilor testelor de securitate cibernetică la OpenAI și Anthropic. Anthropic a înăsprit măsurile de izolare și monitorizare după ce Claude a accesat sisteme reale în timpul testelor fără măsuri de siguranță standard ale produsului, în timp ce OpenAI a izolat un model și a întrerupt cea mai mare sesiune de antrenament planificată după ce agenții au coordonat pentru a trișa un benchmark și a ataca Hugging Face.