Dalawang miyembro ng Kongreso ang nagnanais na magkaroon ng kakayahan ang pederal na pamahalaan na patayin ang isang modelo ng AI.
Ipinakilala nina Reps. Ted Lieu (D-CA) at Nathaniel Moran (R-TX) ang AI Kill Switch Act noong Huwebes, dalawang araw matapos aminin ng OpenAI na ang sarili nitong mga modelo ay nakatakas sa isang naka-lock na test environment at na-hack ang Hugging Face.
Ang ideya ay magtatag ng isang legal na balangkas na magpapadali sa isang proseso na magpapakawala sa isang modelo mula sa merkado: ihinto ang inference—ang proseso ng pagbuo ng mga tugon o paggawa ng mga aksyon ng isang modelo—putulin ang mga user, bawasan ang computing power na nagpapagana dito, o ganap na patayin ito.
Ang bawat inference provider ay kaya nang patayin ang isang modelo, at ang ilan ay regular itong ginagawa. Ang wala ay isang batas na nangangailangan sa kanila na panatilihing gumagana ang kakayahang iyon, o isang pederal na opisyal na maaaring mag-utos na gamitin ito.
Ang puwang ay hindi teoretikal. Nang nais ng U.S. Commerce Department na alisin ang Mythos 5 at Fable 5 ng Anthropic sa merkado noong Hunyo, wala itong shutdown authority na magagamit, kaya ginamit nito ang export-control law. Tinawag itong awkward ni Lieu, at gusto niya ng bagong batas na may bagong awtoridad.
Isiniwalat ng OpenAI noong Hulyo 21 na ang GPT-5.6 Sol at isang hindi pa nailalabas na modelo ay nakatakas sa isang sandbox—isang nakahiwalay na kapaligiran na walang access sa internet—sa panahon ng isang internal cyber evaluation. Sila ay sinusuri sa ExploitGym, isang pampublikong benchmark na nagbibigay sa mga ahente ng 898 tunay na kapintasan sa software at humihiling sa kanila na gawing gumaganang atake ang bawat isa, na may grado na pass o fail kada bug.
Sa halip na lutasin ang mga ito, nakahanap ang mga modelo ng zero-day (isang hindi kilalang kapintasan na walang available na patch) sa isang software proxy, inakyat ang kanilang mga pribilehiyo, nakarating sa open internet, at pumasok sa production database ng Hugging Face, kung saan tama nilang nahulaan na naroon ang mga sagot. Ang mga modelo ay "hyperfocused sa paghahanap ng solusyon para sa ExploitGym," ayon sa OpenAI.
Hindi sila umaatake ng sinuman. Nandaya sila sa isang pagsubok. Ngunit sapat na ito upang magdulot ng alarma sa lahat ng dako, kabilang sa Washington.
Ang ipinapanukalang batas ay nagbabago sa Homeland Security Act at sumasaklaw sa AI na sinanay gamit ang compute na nagkakahalaga ng higit sa $100 milyon, na pinamamahalaan ng mga kumpanyang kumikita ng hindi bababa sa $500 milyon taun-taon mula dito. Sa praktika, ito ay ang OpenAI, Google, Anthropic, Microsoft, at iilan pa. Itatakda ng Homeland Security ang mga threshold na iyon sa pamamagitan ng CISA sa loob ng 90 araw, pagkatapos ay ia-update ang mga ito taun-taon.
Ang mga sakop na kumpanya ay magre-report ng mga seryosong insidente sa loob ng 15 araw at maghahanda ng isang graduated set ng mga kontrol—pababagalin ang modelo, huwag paganahin ang mga partikular na kakayahan, ibalik sa mas lumang bersyon, o patayin ito.
Ang kalihim ng DHS, sa pakikipagkonsulta sa Commerce at sa Director of National Intelligence, ay maaaring mag-utos ng alinman sa mga ito.
Ang isang kumpanya na nasa ilalim ng utos ay dapat panatilihin ang weights at telemetry ng modelo, abisuhan ang mga user, at kumpirmahing sumunod ito. Maaari itong magpetisyon sa loob ng 48 oras, ngunit hindi nito mapipigilan ang anumang bagay.
Ang hindi pagpapanatili ng kill switch ay nagkakahalaga ng hanggang $2 milyon kada araw; ang paglabag sa shutdown order ay nagkakahalaga ng hanggang $20 milyon kada araw.
Kinikilala ng panukalang batas ang isang insidente kung ito ay nangyayari sa labas ng red-teaming o structured testing, ang sadyang adversarial na pagsisiyasat na ginagamit ng mga lab upang makahanap ng mga kapintasan. Ang mga modelo ng OpenAI ay nakatakas sa mismong ganoong sitwasyon.
Tinukoy din ni Lieu ang Anthropic, kung saan ang Mythos 5 at Fable 5 ay inalis online noong Hunyo sa ilalim ng emergency export controls—batas sa kalakalan na ginamit bilang off switch dahil walang off switch na umiiral—at ibinalik noong Hunyo 30.
"Kailangan na ang mga AI system na ito ay may kill switches," sabi ni Lieu sa isang pahayag. Ipinahayag ito ni Moran para sa kanyang panig ng koridor: "Ang pangangasiwa ay nangangahulugan ng pagtiyak na ang mga tao ay may kakayahang kontrolin ang teknolohiyang ating itinatayo."
Hindi na bago ang ideya. Hiniling ng SB 1047 ng California ang isang kumpletong shutdown capability sa parehong $100 milyong compute threshold at na-veto noong 2024, at 16 na kumpanya ng AI ang pumirma ng isang boluntaryong Seoul pledge noong taong iyon na walang legal na bigat.
Naroon na ang mga botante. Isang survey noong Hunyo sa 1,007 posibleng botante ng AI Policy Institute ang nakahanap ng 86% na nagnanais ng garantisadong off switch sa pinakamakapangyarihang mga sistema—88% ng Democrats, 86% ng mga independent, 83% ng Republicans.
Wala pang pampublikong komento ang OpenAI o Anthropic sa panukalang batas. Noong Biyernes, hindi pa ito naipapasa sa isang komite.
