Sam Altman, CEO-ul OpenAI, a respins alarma tot mai mare legată de puternicul nou model AI Claude Mythos al rivalului Anthropic, sugerând că firma folosește „frica” pentru a-și comercializa produsul.
Vorbind la podcastul Core Memory găzduit de jurnalistul tech Ashlee Vance, Altman a susținut că utilizarea „marketingului bazat pe frică” este orientată spre a menține AI-ul în mâinile unui „grup mai restrâns de oameni.”
„Poți justifica asta în multe feluri, iar o parte este reală, de exemplu, vor exista preocupări legitime legate de siguranță”, a spus Altman.
„Dar dacă ceea ce vrei este 'avem nevoie de controlul AI, doar noi, pentru că noi suntem oamenii de încredere', cred că marketingul bazat pe frică este probabil cel mai eficient mod de a justifica asta."
Altman a adăugat că, deși există preocupări valide legate de siguranța AI, „este, în mod clar, o strategie de marketing incredibilă să spui: 'Am construit o bombă. Suntem pe cale să o aruncăm peste capul tău. Îți vom vinde un adăpost anti-bombă pentru 100 de milioane de dolari. Ai nevoie de el pentru a-ți proteja totul, dar numai dacă te alegem ca și client.'"
El a menționat că nu a fost „întotdeauna ușor” să echilibreze noile capacități ale AI cu convingerea OpenAI că tehnologia ar trebui să fie accesibilă.
Modelul Claude Mythos de la Anthropic, dezvăluit luna trecută, a atras o atenție intensă din partea cercetătorilor, guvernelor și industriei de securitate cibernetică, în special după ce testele au sugerat că poate identifica autonom vulnerabilități software și executa operațiuni cibernetice complexe. Modelul este distribuit doar unui set limitat de organizații printr-un program restricționat.
Lansarea reflectă o diviziune mai largă în industria AI cu privire la modul în care ar trebui implementate sistemele puternice, unele companii punând accentul pe accesul controlat, iar altele argumentând pentru o distribuție mai largă pentru a accelera inovația și înțelegerea tehnologiei.
Mythos a devenit un punct central în această dezbatere. Capacitățile modelului au fost încadrate de Anthropic atât ca o descoperire defensivă – permițând detectarea mai rapidă a defectelor software critice – cât și ca un risc ofensiv potențial dacă este utilizat greșit. La începutul acestei luni, a identificat sute de vulnerabilități în browserul Firefox de la Mozilla în timpul testelor și a demonstrat, de asemenea, capacitatea de a realiza simulări de atacuri cibernetice în mai multe etape.
Anthropic a restricționat accesul la sistem prin Project Glasswing, acordând companiilor selectate, inclusiv Amazon, Apple și Microsoft, capacitatea de a-și testa capabilitățile. Compania s-a angajat, de asemenea, să aloce resurse semnificative pentru a sprijini eforturile de securitate open-source, argumentând că apărătorii ar trebui să beneficieze de tehnologie înainte ca aceasta să devină mai larg disponibilă.
Modelul a expus, de asemenea, limitări în sistemele de evaluare AI existente, Anthropic recunoscând că multe standarde de referință actuale în securitatea cibernetică nu mai sunt suficiente pentru a măsura capabilitățile celui mai recent sistem al său.
Acestea fiind spuse, un grup de cercetători a declarat săptămâna trecută că au reușit să reproducă descoperirile Mythos folosind modele disponibile public.
În ciuda apelurilor din partea unor segmente ale guvernului SUA de a opri utilizarea tehnologiei din cauza preocupărilor legate de potențialele sale aplicații în război și supraveghere, Agenția Națională de Securitate a început, se pare, să testeze o versiune preliminară a modelului pe rețele clasificate. Pe piața de predicții Myriad, deținută de compania mamă a Decrypt, Dastan, utilizatorii au estimat o șansă de 49% ca Claude Mythos să fie lansat publicului larg până la 30 iunie.
Altman a sugerat că retorica în jurul sistemelor AI extrem de periculoase ar putea crește pe măsură ce capabilitățile se îmbunătățesc, dar a argumentat că nu toate aceste afirmații ar trebui luate la valoarea nominală.
„Va exista mult mai multă retorică despre modelele prea periculoase pentru a fi lansate. Vor exista și modele foarte periculoase care vor trebui lansate în moduri diferite”, a spus el. „Sunt sigur că Mythos este un model excelent pentru securitatea cibernetică, dar cred că avem un plan cu care ne simțim bine despre cum să lansăm acest tip de capabilitate în lume.”
Altman a respins, de asemenea, sugestiile că OpenAI își reduce cheltuielile de infrastructură, spunând că firma va continua să-și extindă capacitatea de calcul în ciuda narațiunilor schimbătoare.
„Nu știu de unde vine asta… oamenii chiar vor să scrie povestea retragerii”, a spus el. „Dar foarte curând va fi din nou, ca și cum: ‘OpenAI este atât de iresponsabil. Cum pot cheltui această sumă nebună?’”
