OpenAI și Anthropic colaborează la Washington pentru a modela un sistem federal de revizuire pentru modelele avansate de inteligență artificială, în ciuda faptului că se luptă pentru clienți, finanțare și leadership tehnologic.
OpenAI și Anthropic îndeamnă administrația Trump să adopte un proces consecvent de revizuire pentru modelele AI cu capabilități avansate de securitate cibernetică sau securitate națională, potrivit The Information.
Cooperarea lor vine înainte de termenul limită de 1 august pentru agențiile federale de a defini ce sisteme ar trebui să se califice drept „modele de frontieră acoperite”. Aceste modele ar putea fi furnizate guvernului pentru evaluare timp de până la 30 de zile înainte de a fi lansate către alți parteneri de încredere.
Ambele companii ar dori ca standardele să fie aplicate în întreaga industrie AI, mai degrabă decât să se limiteze la dezvoltatorii care deja cooperează cu Washingtonul. Acest lucru ar putea aduce companii concurente, inclusiv Meta și xAI a lui Elon Musk, sub același cadru de revizuire dacă modelele lor depășesc pragul de capabilitate eventual.
Discuțiile marchează o rară aliniere de politici între OpenAI și Anthropic. Ambele companii vând sisteme AI de uz general și concurează pentru contracte de întreprindere, cercetători, capacitate de calcul și investiții.
Niciuna dintre companii nu a publicat în întregime termenii pe care îi dorește incluși în cadrul final.
Președintele Donald Trump a ordonat agențiilor federale să stabilească un proces clasificat de benchmarking prin Ordinul Executiv 14409, la 2 iunie.
Ordinul direcționează Agenția Națională de Securitate, Agenția pentru Securitate Cibernetică și Infrastructură, Departamentul Trezoreriei și alte organisme federale să determine când un model AI are capabilități suficient de puternice pentru a justifica o revizuire suplimentară.
Dezvoltatorii care participă la cadrul respectiv ar putea cere guvernului dacă un model îndeplinește pragul de model de frontieră acoperit. Apoi ar putea oferi evaluatorilor federali acces timp de până la 30 de zile înainte de a pune sistemul la dispoziția altor parteneri aprobați.
Ordinul cere măsuri de protecție pentru proprietatea intelectuală, informațiile confidențiale, securitatea cibernetică și amenințările interne în timpul evaluării.
Cu toate acestea, se precizează expres că procesul nu poate crea reguli federale obligatorii de licențiere, pre-aprobare sau autorizare pentru dezvoltarea sau lansarea modelelor AI. Prin urmare, companiile ar participa voluntar, cu excepția cazului în care se aplică legi separate sau puteri guvernamentale.
Un cadru comun ar putea oferi dezvoltatorilor americani standarde mai clare pentru a decide când este de așteptat testarea guvernamentală. Rămân întrebări cu privire la ce repere tehnice vor declanșa o revizuire, ce agenții vor testa fiecare sistem și cum vor aproba oficialii partenerii cu acces timpuriu.
Aceste incertitudini au afectat deja lansările recente. OpenAI și Anthropic au oferit oficialilor guvernamentali acces timpuriu la modele avansate înainte de o distribuție mai largă, dar cercetătorii externi au avut o vizibilitate limitată asupra evaluărilor.
Un raport din iulie a constatat că agențiile, testele și cerințele de aprobare implicate în aceste revizuiri au rămas neclare. Lipsa unui proces publicat ar putea îngreuna planificarea lansărilor pentru dezvoltatori și ar putea lăsa companiile AI mai mici nesigure dacă aceleași standarde li se aplică și lor.
Aplicarea unui prag bazat pe capacitate la OpenAI, Anthropic, Meta, xAI și alți dezvoltatori ar putea reduce o parte din această incertitudine. De asemenea, ar putea limita preocupările că Washingtonul acordă un tratament diferit anumitor companii.
Apelul OpenAI și Anthropic pentru un proces comun de revizuire vine în contextul în care alte companii de tehnologie avertizează Washingtonul împotriva impunerii unor controale ample asupra modelelor AI cu greutate deschisă.
După cum a raportat crypto.news săptămâna trecută, Nvidia, Meta și Microsoft s-au alăturat altor 22 de organizații într-o scrisoare deschisă argumentând că restricțiile extinse ar putea slăbi leadershipul SUA pe măsură ce concurența cu China se intensifică. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz și Linux Foundation au semnat, de asemenea, scrisoarea.
Grupul a cerut măsuri legale și comerciale țintite împotriva abuzului, în loc de restricții care să acopere tehnologii cu aplicații legitime de cercetare și afaceri.
Modelele cu greutate deschisă permit companiilor, cercetătorilor și guvernelor să descarce software, să-l modifice și să-l ruleze pe propria infrastructură. Susținătorii spun că acest lucru oferă utilizatorilor un control mai mare asupra datelor, securității și sistemelor lor de calcul, reducând în același timp costurile de implementare.
Semnatarii nu au încadrat modelele deschise și închise ca fiind reciproc exclusive. În schimb, ei au susținut că ambele abordări sunt necesare pentru a susține concurența și pentru a oferi dezvoltatorilor diferite moduri de a construi și implementa sisteme AI.
CEO-ul Nvidia, Jensen Huang, a distribuit scrisoarea în prima sa postare pe X și a apărat rolul ambelor modele de dezvoltare.
„Lumea are nevoie atât de modele de frontieră închise, cât și de modele de frontieră deschise.”
Elon Musk a susținut și el scrisoarea într-un răspuns către Huang, deși compania sa de AI, xAI, nu a fost listată printre cei 25 de semnatari raportați.
Cele două eforturi abordează părți diferite ale dezbaterii politice. OpenAI și Anthropic caută evaluări federale consecvente pentru modelele care depășesc un prag de capacitate de securitate națională, în timp ce scrisoarea deschisă argumentează împotriva restricțiilor bazate în principal pe disponibilitatea ponderilor unui model.
Agențiile federale au acum până la 1 august să definească pragul modelului de frontieră și să schițeze procesul de revizuire voluntară. Cadrul final va arăta dacă Washingtonul se concentrează pe capabilități măsurabile sau aplică condiții mai largi bazate pe modul în care sunt distribuite modelele AI.
