Tinutulan ni OpenAI CEO Sam Altman ang lumalaking pagkabahala sa malakas na bagong AI model ng karibal na Anthropic na Claude Mythos, na nagsasabing ginagamit ng kumpanya ang “takot” upang ibenta ang produkto.

Sa pakikipag-usap sa podcast na Core Memory na in-host ng tech journalist na si Ashlee Vance, iginiit ni Altman na ang paggamit ng “fear-based marketing” ay nakatuon sa pagpapanatili ng AI sa kamay ng “mas maliit na grupo ng mga tao.”

“Maaari mong bigyang-katwiran iyan sa maraming iba’t ibang paraan, at ang ilan dito ay totoo, tulad ng magkakaroon ng lehitimong alalahanin sa kaligtasan," sabi ni Altman.

“Ngunit kung ang gusto mo ay 'kailangan namin ng kontrol sa AI, kami lang, dahil kami ang mapagkakatiwalaang tao', sa tingin ko, ang fear-based marketing ang marahil ang pinakamabisang paraan upang bigyang-katwiran iyan."

Idinagdag ni Altman na habang mayroong mga valid na alalahanin tungkol sa kaligtasan ng AI, "malinaw na hindi kapani-paniwala ang marketing na nagsasabing: 'Gumawa kami ng bomba. Ibibigay namin ito sa iyo. Magbebenta kami sa iyo ng bomb shelter sa halagang $100 milyon. Kailangan mo ito para mapatakbo ang lahat ng gamit mo, ngunit kung pipiliin ka lang namin bilang customer.'"

Binanggit niya na “hindi palaging madali” ang balansehin ang mga bagong kakayahan ng AI sa paniniwala ng OpenAI na dapat ay accessible ang teknolohiya.

Claude Mythos ng Anthropic

Ang modelong Claude Mythos ng Anthropic, na inilabas noong nakaraang buwan, ay nakakuha ng matinding pansin mula sa mga mananaliksik, gobyerno at industriya ng cybersecurity, lalo na matapos ipakita ng pagsubok na kaya nitong awtomatikong tukuyin ang mga kahinaan sa software at magsagawa ng kumplikadong operasyon sa cyber. Ibinibigay lamang ang modelo sa limitadong hanay ng mga organisasyon sa pamamagitan ng isang restricted program.

Sinasalamin ng paglulunsad ang isang mas malawak na paghati sa industriya ng AI kung paano dapat i-deploy ang mga malalakas na sistema, kung saan ang ilang kumpanya ay nagbibigay-diin sa kontroladong access at ang iba naman ay nangangatuwiran para sa mas malawak na distribusyon upang mapabilis ang inobasyon at pag-unawa sa teknolohiya.

Ang Mythos ay naging sentro ng debate na iyon. Ang mga kakayahan ng modelo ay ipinakita ng Anthropic bilang parehong isang depensibong tagumpay—na nagpapahintulot sa mas mabilis na pagtuklas ng mga kritikal na pagkukulang sa software—at isang potensyal na opensibong panganib kung maling gamitin. Sa simula ng buwan na ito, nakilala nito ang daan-daang kahinaan sa Firefox browser ng Mozilla sa panahon ng pagsubok at ipinamalas din ang kakayahang magsagawa ng multi-stage na simulasyon ng cyberattack.

Pinaghihigpitan ng Anthropic ang access sa sistema sa pamamagitan ng Project Glasswing, na nagbibigay ng kakayahan sa piling mga kumpanya kabilang ang Amazon, Apple, at Microsoft na subukan ang mga kakayahan nito. Naglaan din ang kumpanya ng malaking pondo upang suportahan ang open-source security efforts, na nagsasaad na ang mga tagapagtanggol ay dapat makinabang mula sa teknolohiya bago ito maging mas malawak na magagamit.

Nagbabala ang mga eksperto sa seguridad na ang parehong kakayahan na nagpapahintulot sa Mythos na tukuyin ang mga kahinaan ay maaari ring gamitin upang samantalahin ang mga ito sa malawakang sukat. Natuklasan ng mga pagsubok ng AI Security Institute ng UK na kayang awtomatikong kumpletuhin ng modelo ang kumplikadong operasyon sa cyber.

Inilantad din ng modelo ang mga limitasyon sa umiiral na mga sistema ng pagsusuri ng AI, kung saan kinikilala ng Anthropic na marami sa kasalukuyang mga benchmark ng cybersecurity ay hindi na sapat upang sukatin ang mga kakayahan ng pinakabagong sistema nito.

Gayunpaman, isang grupo ng mga mananaliksik ang nagsabing noong nakaraang linggo na nagawa nilang gayahin ang mga natuklasan ng Mythos gamit ang mga modelo na pampublikong available.

Sa kabila ng mga panawagan sa loob ng ilang bahagi ng gobyerno ng U.S. na itigil ang paggamit ng teknolohiya dahil sa mga alalahanin tungkol sa potensyal nitong aplikasyon sa digmaan at surveillance, iniulat na sinimulan ng National Security Agency ang pagsubok sa isang preview na bersyon ng modelo sa mga classified network. Sa prediction market na Myriad, na pag-aari ng parent company ng Decrypt na Dastan, naglagay ang mga user ng 49% na tsansa na ilalabas sa mas malawak na publiko ang Claude Mythos sa Hunyo 30.

Iminungkahi ni Altman na ang retorika sa paligid ng lubhang mapanganib na sistema ng AI ay maaaring tumaas habang bumubuti ang mga kakayahan, ngunit iginiit niya na hindi lahat ng gayong pahayag ay dapat paniwalaan nang buo.

“Magkakaroon pa ng maraming retorika tungkol sa mga modelo na masyadong mapanganib para ilabas. Magkakaroon din ng napakadelikadong mga modelo na kailangang ilabas sa iba’t ibang paraan,” aniya. “Sigurado akong mahusay ang Mythos na modelo para sa cybersecurity ngunit sa tingin ko mayroon kaming plano na maganda ang pakiramdam namin kung paano namin ilalabas ang ganitong uri ng kakayahan sa mundo.”

Itinanggi rin ni Altman ang mga suhestiyon na binabawasan ng OpenAI ang paggastos nito sa imprastraktura, na sinabing patuloy na palalawakin ng kumpanya ang kapasidad nito sa computing sa kabila ng pagbabago ng mga narratives.

“Hindi ko alam kung saan nanggagaling iyan… gusto talaga ng mga tao na isulat ang kuwento ng pagbawi,” aniya. “Ngunit sa lalong madaling panahon, sasabihin muli, ‘Ang OpenAI ay napakawalang-ingat. Paano sila nakakagasta ng ganito kalaking halaga?’”