CEO-ul Anthropic, Dario Amodei, a declarat miercuri că guvernele nu mai pot trata reglementarea AI ca pe o problemă de studiat și că Statele Unite au nevoie de cerințe obligatorii de siguranță pentru cele mai puternice modele AI.

În eseu, intitulat „Politica privind Exponențialul AI”, Amodei susține că cerințele de transparență nu mai sunt suficiente și solicită o reglementare obligatorie a sistemelor AI de frontieră.

„AI avansează cu o viteză uluitoare – în doar patru ani, modelele AI au trecut de la abia a putea scrie o linie coerentă de cod la a scrie cea mai mare parte a codului în companiile majore de AI”, a scris Amodei.

Eseul lui Amodei vine în contextul în care Anthropic extinde accesul la Claude Mythos odată cu lansarea Mythos 5 marți, modelul său AI de frontieră restricționat pentru organizațiile de securitate cibernetică și partenerii guvernamentali. Cercetătorii, inclusiv Institutul de Securitate AI din Marea Britanie, au descoperit că acesta poate executa autonom atacuri cibernetice complexe.

Potrivit lui Amodei, propunerea sa se inspiră din structura de reglementare utilizată de Administrația Federală a Aviației.

„Modelele AI de frontieră, la fel ca avioanele, ar trebui să fie supuse testării tehnice și auditării, iar lansarea lor ar trebui blocată sau anulată ca o amenințare la adresa siguranței publice dacă nu îndeplinesc standarde înalte de siguranță”, a scris el. „Sunt recunoscător să văd că Ordinul Executiv al administrației Trump se îndreaptă incremental către un rol mai mare al guvernului în AI, deși propunerea Anthropic recomandă acțiuni chiar mai ample.”

Conform propunerii lui Amodei, un cadru de reglementare ar necesita testare obligatorie de către terți a modelelor AI avansate, autoritatea guvernamentală de a bloca implementările nesigure și cerințe ca firmele să securizeze ponderile modelelor, să efectueze teste de siguranță și să raporteze incidentele grave. De asemenea, el îndeamnă guvernele să se pregătească pentru deplasarea forței de muncă determinată de AI și pentru progresele în dezvoltarea medicamentelor, să limiteze supravegherea și armele autonome în aplicarea legii la nivel intern și să consolideze cooperarea între națiunile democratice în privința tehnologiilor AI critice.

„În primul rând, o deplasare durabilă a forței de muncă este nedorită și periculoasă și ar trebui să facem tot ce ne stă în putință pentru a o minimiza sau preveni, nu pentru a o provoca”, a scris el, indicând cazuri anterioare în care a avertizat despre deplasarea forței de muncă. „În al doilea rând, orice răspuns la deplasarea forței de muncă determinată de AI trebuie să abordeze atât necesitatea de a asigura bunăstarea economică pentru toată lumea, cât și necesitatea ca oamenii să găsească sens, scop și autonomie.”

Eseul apare, de asemenea, în aceeași săptămână în care Anthropic a lansat Claude Fable 5, o versiune publică a Claude Mythos 5, care direcționează anumite solicitări ce implică securitatea cibernetică, biologia, chimia și dezvoltarea AI către Claude Opus 4.8, mai puțin capabil, ca măsură de protecție împotriva utilizării abuzive. Lansarea a atras critici din partea dezvoltatorilor și cercetătorilor cu privire la utilizarea mai mare a token-urilor de către Fable, cerințele obligatorii de păstrare a datelor timp de 30 de zile și măsurile de protecție care pot reduce capacitățile modelului fără a notifica utilizatorii.

Solicitarea lui Amodei pentru modificări de politici în jurul dezvoltării AI vine, de asemenea, în contextul în care Anthropic se pregătește să se listeze public. La începutul acestei luni, compania a depus documente la Comisia pentru Valori Mobiliare și Burse din SUA pentru o ofertă publică inițială după ce a atras o rundă Serie H, raportată la 65 de miliarde de dolari, la o evaluare raportată de 965 de miliarde de dolari.

În timp ce Amodei a încadrat problema ca o cursă între progresul tehnologic și politica publică, criticii au pus sub semnul întrebării dacă apelurile pentru o reglementare mai strictă a AI servesc de fapt binelui public. În aprilie, CEO-ul OpenAI, Sam Altman, a acuzat Anthropic că folosește „marketing bazat pe frică” pentru a promova Claude Mythos, susținând că preocupările legate de AI avansată pot fi folosite pentru a justifica concentrarea controlului tehnologiei în mâinile unui număr mic de companii.

„Poți justifica asta în multe feluri diferite, iar unele dintre ele sunt reale, cum ar fi că vor exista preocupări legitime de siguranță”, a spus Altman. „Dar dacă ceea ce vrei este genul de 'avem nevoie de controlul AI, doar noi, pentru că suntem oamenii de încredere', cred că marketingul bazat pe frică este probabil cel mai eficient mod de a justifica asta.”

Amodei a respins ideea că preocupările legate de AI avansată sunt în primul rând o problemă de relații publice, susținând în schimb că temerile legate de tehnologie reflectă preocupări legitime care trebuie abordate.

„Oamenii sunt îngrijorați de AI pentru că percep corect că riscurile sale sunt reale, nu pentru că CEO-ii AI au fost insuficient panglossieni”, a spus el, referindu-se la filosoful fictiv Pangloss din romanul Candide al lui Voltaire, cunoscut pentru optimismul său neclintit că totul este spre bine, indiferent de circumstanțe.

„Cred că este datoria mea, ca lider în domeniul AI, să continui să fiu transparent cu privire la aceste riscuri, iar preocuparea publică ca răspuns la această transparență constituie responsabilitatea democratică funcționând așa cum ar trebui”, a spus el.