Anthropic extinde accesul la modelul său AI Claude Mythos prin Proiectul Glasswing, un program menit să permită firmelor de tehnologie și securitate, precum și guvernelor, să descopere și să remedieze erori și potențiale vulnerabilități înainte ca puternicul model să fie lansat public.
Într-o postare pe blog marți, Anthropic a declarat că adaugă aproximativ 150 de organizații la programul său controlat, în timp ce compania se pregătește pentru o lansare mai amplă a modelului controversat.
Extinderea vine după ce Anthropic a declarat că se așteaptă să pună la dispoziția clienților modele din clasa Mythos "în următoarele săptămâni", odată ce va finaliza măsuri de siguranță suplimentare. Știrea vine, de asemenea, în contextul în care Anthropic se pregătește să devină publică, după ce a depus confidențial o cerere de IPO luni la Comisia pentru Valori Mobiliare și Burse din SUA (U.S. Securities and Exchange Commission).
„În urma mai multor săptămâni de colaborare strânsă cu partenerii noștri din Proiectul Glasswing, cu industria de securitate, cu dezvoltatorii de software open-source și cu guvernul SUA, extindem parteneriatul la aproximativ 150 de noi organizații”, a scris Anthropic. „Fiecare dintre acestea va trebui să îndeplinească cerințele noastre de securitate înainte de a obține accesul.”
Cea mai recentă extindere a Proiectului Glasswing adaugă organizații din sectoarele de infrastructură critică, inclusiv energie, apă, sănătate, comunicații și hardware. Anthropic a declarat că multe dintre noile organizații gestionează software utilizat de guverne și de sute de milioane de oameni.
„Ceea ce au în comun toți partenerii este că un atac reușit asupra bazei lor de cod ar putea fi catastrofal”, a scris Anthropic. „Pentru majoritatea partenerilor, estimăm că un atac major ar putea afecta peste 100 de milioane de oameni, cu ramificații importante atât pentru securitatea globală, cât și pentru cea națională.”
Claude Mythos a apărut public în martie, după ce materiale draft de la Anthropic au fost scurse online. Potrivit Anthropic, organizațiile care au primit anterior acces au folosit deja Mythos Preview pentru a identifica peste 10.000 de vulnerabilități software de gravitate ridicată sau critică. Partenerii folosesc, de asemenea, modelul pentru a scrie patch-uri, a efectua audituri de securitate și a testa software-ul înainte de lansare.
Capacitățile modelului au stârnit îngrijorări în rândul cercetătorilor și agențiilor guvernamentale, că sistemele AI din ce în ce mai performante ar putea facilita executarea atacurilor cibernetice.
Institutul de Securitate AI din Marea Britanie a raportat că Mythos a finalizat autonom un atac simulat pe o rețea corporativă în 32 de pași în timpul testării. Mozilla a declarat că modelul a identificat 271 de vulnerabilități pe care le-a remediat în browserul web Firefox, în timp ce startup-ul de securitate Calif a susținut că o versiune preview a ajutat cercetătorii să dezvolte un lanț de exploituri vizând cipurile de computer Apple M5.
Anthropic a declarat că extinde accesul la Mythos deoarece consideră că apărătorii au nevoie de instrumente AI din ce în ce mai capabile înainte ca atacatorii să obțină capacități similare. Compania a declarat că se așteaptă ca alți dezvoltatori să lanseze modele din clasa Mythos în următoarele șase până la 12 luni, posibil fără măsuri de siguranță comparabile, crescând perspectiva unor atacuri cibernetice mai frecvente și mai puțin previzibile.
„În viitor, lansările de modele de vârf vor deveni din ce în ce mai riscante. Capacitățile vor continua să se îmbunătățească în toate domeniile, inclusiv în multe care – precum securitatea cibernetică – pot împuternici atât atacatorii, cât și apărătorii”, a scris Anthropic. „Dacă vom reuși, sperăm să oferim un avantaj permanent apărătorilor.”
Anthropic nu a răspuns imediat unei solicitări de comentarii din partea Decrypt.
Cu accesul privat extins, utilizatorii de pe Myriad – o platformă de piață de predicții operată de compania-mamă a Decrypt, Dastan – își pierd încrederea că Claude Mythos va fi lansat public până la sfârșitul lunii iunie. Aceștia estimează o șansă de doar 26.5% la momentul redactării acestui text, în scădere de la un vârf de 58.5% săptămâna trecută.
