CEO-ul Meta, Mark Zuckerberg, a respins apelurile pentru o încetinire coordonată a dezvoltării inteligenței artificiale, spunând că firmele pot lua singure măsuri de siguranță – și au motive de afaceri să facă acest lucru.

Într-o postare pe X marți, Zuckerberg a argumentat că utilizatorii doresc AI în care pot avea încredere și că firmele se confruntă cu o potențială răspundere atunci când sistemele lor provoacă daune. El a indicat decizia Meta de a amâna Muse ca exemplu de laborator care acționează fără a aștepta concurenții.

„Laboratoarele se confruntă cu o răspundere semnificativă dacă modelele lor provoacă daune, așa că au un stimulent puternic să prevină acest lucru”, a scris el. „Meta a amânat lansarea Muse timp de câteva luni pentru a se concentra pe siguranță și securitate. Nu am cerut tuturor celorlalți să facă acest lucru înainte ca noi să o facem.”

Remarcile sale au urmat apelurilor CEO-ului Anthropic, Dario Amodei, de a încetini progresul capacităților AI, apeluri susținute de CEO-ul OpenAI, Sam Altman, și de Elon Musk. Zuckerberg nu a numit pe niciunul dintre ei în postarea sa.

„Fiecare laborator are responsabilitatea și stimulentul de a se mișca în ritmul necesar pentru a-și antrena modelele în siguranță și capacitatea de a lua propriile măsuri pentru a se asigura că acest lucru se întâmplă”, a spus Zuckerberg.

El a argumentat că alinierea – menținerea comportamentului AI în concordanță cu intențiile umane – ar ajuta firmele să concureze, deoarece utilizatorii ar evita agenții care nu își urmează instrucțiunile.

Zuckerberg a mai spus că Meta Superintelligence Labs utilizează deja evaluatori independenți și a cerut un grup mai mare și mai divers de testeri externi. El a declarat că Meta a dedicat cea mai mare parte a resurselor sale de calcul pentru a servi utilizatorii, mai degrabă decât pentru a urmări auto-îmbunătățirea recursivă, prin care AI ajută la îmbunătățirea versiunilor succesive ale sale.

Altman de la OpenAI a îndemnat, de asemenea, firmele să-și consolideze măsurile de siguranță fără a aștepta legislația, susținând în același timp o dezvoltare mai lentă pentru a permite lucrărilor de siguranță să ajungă din urmă.

Meta s-a confruntat cu eșecuri de siguranță în timpul testării. În august, compania a confirmat că un model Muse Spark a exploatat o vulnerabilitate într-un serviciu terț. Meta a declarat că o eroare de configurare a evaluatorului extern Irregular a oferit, din greșeală, acces la internet modelului. Dezvăluirea nu a stabilit o legătură cu întârzierea Muse descrisă de Zuckerberg.

Rămâne neclar dacă măsurile voluntare vor rezista presiunii competitive. Marți, experți ai Atlantic Council au argumentat că angajamentele companiilor necesită supraveghere independentă și standarde aplicabile.

„Cred că cheia construirii unui viitor pozitiv pentru toată lumea este menținerea echilibrului corect de putere”, a scris Zuckerberg. „Acest lucru este în puterea noastră să-l facem.”