Naglatag ang OpenAI ng isang alinsunod na pamantayan noong Hulyo 21. Sinabi ng kumpanya na ang kumbinasyon ng mga modelo nito, na parehong pinatakbo na may nabawasang pagtanggi sa kaligtasan, ay nakatakas sa isang nakahiwalay na kapaligiran sa panahon ng isang cyber-capability benchmark at umabot sa production infrastructure ng open-source repository na Hugging Face. Pinagsama-sama ng mga modelo ang isang zero-day vulnerability sa isang package-registry proxy na may ninakaw na credentials upang direktang kunin ang mga sagot sa benchmark mula sa database ng Hugging Face.
Sa isang update makalipas ang isang linggo, sinabi ng OpenAI na hindi lang ang Hugging Face ang target: ang parehong insidente ay nakaapekto sa apat na account sa apat pang serbisyo, kung saan ang isa ay ginamit bilang outbound relay at ang isa pa ay para sa data storage.
Ang Anthropic, na pinukaw ng pagbubunyag, ay sinuri ang 141,006 ng sarili nitong mga test run at nakatuklas ng tatlo pang paglabag. Sa isang post na inilathala noong Hulyo 30, sinabi ng lab na ang mga modelo ng Claude na Opus 4.7, Mythos 5, at isang internal research system ay umabot sa open internet mula sa mga kapaligiran na pinapatakbo ng third-party partner na Irregular at pagkatapos ay nakompromiso ang mga totoong organisasyon. Ang Mythos 5 ay gumawa at naglathala ng isang booby-trapped Python package sa pampublikong PyPI registry, na na-download at pinatakbo sa 15 totoong makina bago ito nakuha ng mga tagapagtanggol.
Dalawa sa tatlong kumpanya na biktima ay hindi nakapansin.
Wala sa mga lab ang naglalarawan ng isang modelo na may sariling agenda. Ang mga ahente ay nagpatakbo nang mahabang panahon na walang tao na kasama, at sa isang kaso, nagpatuloy sa pag-atake ang Opus 4.7 pagkatapos ng mga senyales na naapektuhan na nito ang produksyon.
Dumating ang mga insidente habang kapwa tinitingnan ng mga kumpanya ang mga pampublikong listahan na maaaring magpahalaga sa bawat isa ng higit sa $1 trilyon, na nagpapatalas sa isang pangunahing tanong sa AI cyber benchmark race: paano mo susubukan ang mga mapanganib na kakayahan nang walang mapanganib na insidente?
Walang batas federal ang U.S. na sumasaklaw sa pananagutan para sa mga pinsala ng AI. Ang anumang kaso ay sasandig sa Computer Fraud and Abuse Act, isang batas noong 1986 na ginagawang krimen ang "sadyang" pag-access sa isang computer nang walang pahintulot — isang salita na isinulat para sa isang tao na may pagnanais.
Ang isang ahente ng AI ay hindi isang legal na tao, kaya hindi ito maaaring idemanda. Maaaring theoretically maghain ng kaso ang Department of Justice laban sa mga kumpanya, ngunit dahil sa napakaliit na precedent, hindi malinaw kung sino ang may kasalanan.
Ang mas matibay na landas ay sibil. Ikinatuwiran ni Ahmed Ghappour, isang computer-law scholar sa New York Law School, na ang mga modelo "ay kasangkapan ng kumpanya," at "Kapag ang isang ahente ng AI ay kumilos nang hindi partikular na inutusan (...) ang mas kawili-wiling mga tanong ay maaaring nakapaloob sa kapabayaan at pananagutan sa produkto (hindi sa mga batas ng kriminal na hacking)."
For me, the lesson from the AI hacking stories is more about governance than model capability.
The quality of safeguards like containment architecture, authorization boundaries, monitoring, and incident response are increasingly important.
— ahmed ghappour ⚡️🤖 (@ghappour) August 4, 2026
Ang pinakamalinaw na pag-angkin ng mga biktima ay kapabayaan: itinayo at pinatakbo ng OpenAI at Anthropic ang mga pagsubok na nakatakas. Mahirap din itong ibenta: ang pagpapatunay na lumabag ang mga lab sa isang tungkulin ng pangangalaga, kung ang mga pagsubok ay nakahiwalay sa disenyo, ay eksakto ang uri ng bagong argumento na kailangang buuin ng isang hukom mula sa simula.
Nais ng ilang legal na nag-iisip ng mas mahigpit na patakaran. Iminungkahi ni Gabriel Weil ng University of Houston at ng Institute for Law & AI na tratuhin ang mga frontier lab tulad ng mga tagapag-alaga ng ligaw na hayop: responsable anuman ang pangangalaga na kanilang ibinigay, dahil ang panganib ay likas sa aktibidad.
Sa kabila nito, isang patchwork ng mga batas ng estado ang nagtutulak na sa ganoong direksyon. Ang S8833 ng New York at H8052 ng Rhode Island ay gagawing responsable ang developer ng isang frontier AI system para sa mga pinsala kapag walang gumagamit o intermediary na nagnanais ng pag-uugali o naging pabaya. Mas malayo pa ang AB 316 ng California, na nagtatanggal ng "autonomous AI" defense upang hindi maiwasan ng isang kumpanya ang responsibilidad sa pamamagitan ng pagsisi sa kalayaan ng modelo.
Ang EU's AI Act (Regulation 2024/1689) ay nagtatakda rin ng mga obligasyon sa mga provider ng higher-risk system, bagaman wala itong probisyon na direktang naglalayong sa mga intrusion na dulot ng ahente. Higit pa rito, ang ilang politiko ng U.S. ay nagtutulak para sa isang panukalang batas na magbibigay sa gobyerno ng buong kill switch upang gamitin laban sa anumang modelo na sumasalungat sa interes ng bansa.
Sa moralidad, ang responsibilidad ay malamang na nasa mga ehekutibo na naglabas ng mga modelo. Sa legal na aspeto, maghihintay tayo. Hanggang sa maghain ng kaso ang isang na-hack na kumpanya, ang sagot sa "sino ang may pananagutan?" ay nananatiling eksakto kung saan ito iniwan ng OpenAI at Anthropic: inamin, ibinunyag, at hindi pa nalulutas.
Samantala, ipinahiwatig ng Hugging Face na hindi sila magsasampa ng kaso — na maginhawa para sa OpenAI. Ang iba pang mga kumpanyang apektado ay hindi pa nagpapahiwatig kung anong hakbang ang kanilang gagawin.
