Isang talakayan sa pagitan nina Anthropic CEO Dario Amodei at JPMorgan Chase CEO Jamie Dimon noong Martes ang nakatuon sa lumalagong banta sa cybersecurity na idinudulot ng artificial intelligence habang natutukoy nito ang mga vulnerabilities nang mas mabilis kaysa kayang ayusin ng mga organisasyon ang mga ito.
Sa halos dalawang oras na kaganapan na konektado sa pagtulak ng Anthropic sa mga serbisyong pinansyal, kung saan inilabas nito ang mga AI agent para sa mga gawain tulad ng pitchbooks, pagsusuri ng kita, at compliance work, sinabi ni Amodei na maaaring may anim hanggang 12 buwan lamang na panahon para tugunan ang libu-libong depekto na natuklasan ng modelong Mythos ng kumpanya bago maging mas malawakang magagamit ang katulad na mga kakayahan.
“Ang panganib ay ang napakalaking pagtaas sa dami ng vulnerabilities, sa dami ng mga paglabag, sa pinsalang pinansyal na dulot ng ransomware sa mga paaralan, ospital, hindi na banggitin pa ang mga bangko,” sabi ni Amodei.
Ang pinakabagong pahayag ni Amodei ay sumusunod sa naunang pagsubok sa Mozilla, nang matukoy ng maagang bersyon ng Mythos ang 271 vulnerabilities sa browser ng Firefox sa isang pagdaan, nagpapakita kung paano masusuri ng AI ang malalaking codebases nang mas mabilis kaysa sa mga mananaliksik na tao.
Sinabi ng Anthropic na maaaring matuklasan ng modelo ang libu-libong dating hindi kilalang kahinaan sa malawakang ginagamit na software. Marami ang nananatiling hindi isinisiwalat dahil hindi pa naisasaayos ang mga ito, nag-iiwan ng hindi nalutas na mga depekto.
“Kung iaanunsyo namin ang isang bagay nang hindi pa ito naayos, kung gayon ay pagsasamantalahan ito ng mga masasamang tao,” sabi ni Amodei.
Sa kontroladong pagsubok, kinumpleto ng Mythos ang multi-step na simulasyon ng pag-atake sa network nang walang interbensyon ng tao, nagpapakita ng kakayahan na lumipat mula sa pagtukoy ng mga kahinaan patungo sa pagsasamantala sa mga ito.
Pinaghihigpitan ng Anthropic ang modelo sa isang maliit na grupo ng mga kasosyo sa ilalim ng Project Glasswing, na naglalayong ayusin ang mga vulnerabilities bago maging malawakang magagamit ang katulad na mga tool.
Ipinakita ng mga mananaliksik na ang mga elemento ng kakayahan ng Mythos ay maaaring gayahin gamit ang umiiral na mga modelo at open-source na pamamaraan, na nagpapahiwatig na ang katulad na mga tool ay maaaring kumalat nang mas mabilis kaysa sa inaasahan.
Ang mga babala ay umani ng pagdududa mula sa loob ng industriya. Noong Abril, sinabi ni OpenAI CEO Sam Altman na ang mga alalahanin tungkol sa Mythos ay maaaring labis na pinalalaki at iminungkahi na ang Anthropic ay gumagamit ng “marketing na nakabatay sa takot” upang balangkasin ang mga panganib at bigyang-katwiran ang paglilimita sa pag-access sa teknolohiya.
“Maaari mong bigyang-katwiran iyan sa maraming iba't ibang paraan, at ang ilan dito ay totoo, tulad ng magkakaroon ng lehitimong alalahanin sa kaligtasan," sabi ni Altman. “Ngunit kung ang gusto mo ay 'kailangan namin ng kontrol sa AI, kami lang, dahil kami ang mapagkakatiwalaang tao,' sa tingin ko, ang marketing na nakabatay sa takot ay marahil ang pinakamabisang paraan upang bigyang-katwiran iyan."
Kahit na may pagtutol na iyon, sa kabila ng isang pampublikong pagtatalo sa Anthropic, iniulat na ginagamit ng gobyerno ng U.S. ang Claude Mythos upang mag-scan ng mga classified na network para sa mga vulnerabilities at subukan ang mga kakayahan nito sa cybersecurity, ayon sa Axios. Bagaman hindi niya tinugunan ang nagpapatuloy na labanan sa korte, sinabi ni Amodei na ang Anthropic ay “mabuti para sa bansang ito.”
“Sa tingin ko, ang pananaw ng Anthropic ay pareho sa dati. Sa usapin ng pulitisasyon, ito ang punto na ginawa ko tungkol sa pagiging pina-streamline, sistematiko, at patas sa lahat,” sabi ni Amodei. “Ang layunin ng mga batas at hindi paggawa ng mga bagay sa ad hoc na paraan ay ang lahat ng kumpanya ay, sa prinsipyo—alam kong mas kumplikado ito sa praktika—ay tinatrato sa parehong paraan, at dapat tayong magsikap para doon kahit na hindi ito kailanman mangyayari nang perpekto sa ganoong paraan.”
Inilarawan ni Amodei ang sandali bilang isang makipot na bintana para sa aksyon, nagbabala na kung gaano kabilis tumugon ang mga organisasyon ay maaaring magpasya kung ang mga panganib ay lumala o makokontrol.
“Ito ay tungkol sa isang sandali ng panganib kung saan kung tutugunan natin ito nang tama, at sa tingin ko ay nagsimula na tayong gumawa ng mga unang hakbang, kung gayon ay magkakaroon tayo ng mas magandang mundo sa kabilang panig,” sabi ni Amodei. “Mayroon lamang napakaraming bugs na mahahanap.”
