O discuție între CEO-ul Anthropic, Dario Amodei, și CEO-ul JPMorgan Chase, Jamie Dimon, a avut loc marți și s-a axat pe amenințarea cibernetică în creștere, generată de inteligența artificială, pe măsură ce aceasta identifică vulnerabilități mai rapid decât le pot remedia organizațiile.
În cadrul evenimentului de aproape două ore, legat de extinderea Anthropic în sectorul serviciilor financiare, unde a prezentat agenți AI pentru sarcini precum pitchbook-uri, revizuirea veniturilor și lucrări de conformitate, Amodei a declarat că ar putea exista o fereastră de șase până la 12 luni pentru a aborda zecile de mii de vulnerabilități descoperite de modelul Mythos al companiei, înainte ca capabilități similare să devină mai larg disponibile.
„Pericolul este o creștere enormă a numărului de vulnerabilități, a numărului de breșe de securitate, a pagubelor financiare cauzate de atacurile ransomware asupra școlilor, spitalelor, ca să nu mai vorbim de bănci,” a spus Amodei.
Cele mai recente declarații ale lui Amodei vin după testări anterioare cu Mozilla, când o versiune timpurie a Mythos a identificat 271 de vulnerabilități în browserul Firefox într-o singură scanare, demonstrând cum IA poate scana baze de cod extinse mult mai rapid decât cercetătorii umani.
Anthropic a declarat că modelul poate descoperi mii de slăbiciuni necunoscute anterior în software-ul utilizat pe scară largă. Multe rămân nedeclarate deoarece nu au fost încă remediate, lăsând vulnerabilități nerezolvate.
„Dacă anunțăm ceva fără ca acesta să fie remediat, atunci persoanele rău intenționate îl vor exploata,” a spus Amodei.
În testări controlate, Mythos a finalizat simulări de atacuri de rețea în mai multe etape fără intervenție umană, demonstrând capacitatea de a trece de la identificarea slăbiciunilor la exploatarea acestora.
Anthropic a restricționat accesul la model unui grup restrâns de parteneri în cadrul Proiectului Glasswing, vizând remedierea vulnerabilităților înainte ca instrumente similare să devină larg disponibile.
Cercetătorii au demonstrat că elemente ale capacității Mythos pot fi reproduse folosind modele existente și tehnici open-source, sugerând că instrumente similare s-ar putea răspândi mai repede decât se așteaptă.
Avertismentele au atras scepticism din partea industriei. În aprilie, CEO-ul OpenAI, Sam Altman, a declarat că preocupările legate de Mythos ar putea fi exagerate și a sugerat că Anthropic utilizează „marketing bazat pe frică” pentru a încadra riscurile și a justifica limitarea accesului la tehnologie.
„Poți justifica asta în multe feluri diferite, iar o parte este reală, cum ar fi că vor exista preocupări legitime de siguranță," a spus Altman. „Dar dacă ceea ce vrei este 'avem nevoie de controlul AI, doar noi, pentru că noi suntem oamenii de încredere,' cred că marketingul bazat pe frică este probabil cea mai eficientă modalitate de a justifica asta."
Chiar și cu această opoziție, în ciuda unei dispute publice cu Anthropic, guvernul SUA ar folosi Claude Mythos pentru a scana rețele clasificate în căutarea vulnerabilităților și pentru a-și testa capabilitățile de securitate cibernetică, conform Axios. Deși nu a abordat bătălia juridică în curs, Amodei a declarat că Anthropic este „bun pentru această țară”.
„Cred că viziunea Anthropic este aceeași ca întotdeauna. În ceea ce privește politizarea, acesta este punctul pe care l-am subliniat despre a fi simplificat, sistematic și echitabil pentru toată lumea,” a spus Amodei. „Scopul legilor și al faptului de a nu face lucruri ad-hoc este ca toate companiile să fie, cel puțin în principiu—știu că în practică este mai complicat—tratate în același mod, și ar trebui să aspirăm la asta chiar dacă nu se va întâmpla niciodată perfect în acest fel.”
Amodei a încadrat momentul ca pe o fereastră îngustă de acțiune, avertizând că rapiditatea cu care răspund organizațiile ar putea determina dacă riscurile escaladează sau sunt aduse sub control.
„Acesta este un moment de pericol în care, dacă răspundem corect, și cred că am început să facem primii pași, atunci putem avea o lume mai bună de cealaltă parte,” a spus Amodei. „Nu sunt decât atât de multe erori de găsit.”
