Anthropic a declarat că va restabili accesul public la Claude Fable 5 și Mythos 5 după ce autoritățile americane au ridicat restricțiile de export care menținuseră offline cele două cele mai avansate modele AI ale companiei începând cu 12 iunie.
Potrivit Anthropic, decizia a urmat „unei serii de conversații productive” cu guvernul SUA, după care compania a început redislocarea modelelor cu noi clasificatori concepuți pentru a identifica și bloca mai multe sarcini legate de securitatea cibernetică.
Compania a declarat că cele mai recente măsuri de siguranță sunt menite să abordeze preocupările guvernamentale legate de posibila utilizare abuzivă în cazul în care sistemele sunt ocolite prin metode de jailbreak.
Restricțiile au forțat Anthropic să suspende accesul la Fable 5 și Mythos 5 pentru toți utilizatorii la începutul acestei luni, după ce o directivă de control al exporturilor a guvernului SUA a instruit compania să blocheze ambele modele pentru toți cetățenii străini.
În declarația sa din 13 iunie, Anthropic a precizat că ordinul a vizat și angajații cetățeni străini care lucrau în cadrul companiei, determinând-o să dezactiveze complet modelele pentru a asigura conformitatea.
Secretarul american al Comerțului, Howard Lutnick, a declarat miercuri pe X că oficialii au colaborat cu Anthropic în ultimele două săptămâni pentru a revizui și aproba Fable 5, menținând în același timp modelul aliniat cu cerințele guvernului SUA.
Șefa de cabinet a Casei Albe, Susie Wiles, a declarat de asemenea pe X că prioritatea guvernului a fost implementarea celei mai bune tehnologii AI „cât mai rapid și mai sigur posibil.”
Intervenția a venit după ce oficialii au luat la cunoștință un raport în care cercetătorii Amazon au descoperit o metodă de a ocoli măsurile de siguranță ale Fable 5 și de a face modelul să identifice vulnerabilități software.
Anthropic, însă, a argumentat că problema raportată nu era unică pentru Fable 5, afirmând că modelele mai slabe ar putea, de asemenea, să identifice aceleași vulnerabilități și să producă rezultate similare legate de exploit-uri.
În răspunsul său anterior la ordin, compania a declarat că autoritățile prezentaseră doar dovezi verbale a ceea ce a descris ca fiind o vulnerabilitate (jailbreak) restrânsă, non-universală. Anthropic a afirmat că o astfel de metodă nu a eliminat protecțiile de siguranță ale unui model într-o gamă largă de sarcini, spre deosebire de o vulnerabilitate universală.
„Nu suntem de acord că descoperirea unei vulnerabilități potențiale restrânse ar trebui să fie un motiv pentru retragerea unui model comercial implementat la sute de milioane de oameni. Dacă acest standard ar fi aplicat în întreaga industrie, credem că ar opri practic toate noile implementări de modele pentru toți furnizorii de modele de frontieră.”
Compania avertizase, de asemenea, că tratarea unei vulnerabilități restrânse ca motiv pentru retragerea unui model de frontieră comercial ar putea afecta întreaga industrie AI dacă ar fi aplicată ca standard general.
Restricțiile impuse Anthropic au generat, de asemenea, îngrijorări politice în afara Statelor Unite. Pe 29 iunie, Austria a îndemnat Uniunea Europeană să exploreze posibilitatea înființării Anthropic în cadrul blocului, Secretarul de Stat pentru Digitalizare, Alexander Proell, argumentând într-o scrisoare că Europa nu ar trebui să riște să piardă accesul la progrese majore în AI din cauza deciziilor luate în altă parte.
Pe lângă redislocarea modelului, Anthropic a declarat că își intensifică cooperarea cu guvernul SUA în ceea ce privește testarea modelelor, măsurile de siguranță și urmărirea utilizării abuzive. Compania a precizat că aceasta va include accesul pre-lansare la modele și sisteme de siguranță pentru evaluare, schimbul de informații privind vulnerabilitățile (jailbreak) și utilizarea abuzivă, precum și resurse dedicate pentru cercetare comună.
Anthropic a început, de asemenea, să elaboreze un cadru cu Amazon, Microsoft, Google și alți parteneri prin intermediul Proiectului Glasswing, o colaborare în domeniul securității cibernetice anunțată în aprilie, pentru a evalua severitatea vulnerabilităților (jailbreak-urilor) AI. Compania a declarat că acest cadru este dezvoltat ca un efort de consens pentru clasificarea riscurilor de jailbreak.
Dezbaterea privind accesul a avut loc în contextul în care Anthropic și-a continuat eforturile pentru o supraveghere mai strictă a AI de frontieră. În propunerea sa din 11 iunie, intitulată „Politica privind AI Exponențială”, compania a solicitat cerințe de testare, evaluări independente, standarde de securitate cibernetică și măsuri de aplicare pentru sistemele AI avansate, citând riscuri biologice, cibernetice și operaționale potențiale.
