Mga mambabatas ng U.S. ay nagmungkahi ng permanenteng pagbabawal sa artificial superintelligence, pagpapahinto sa advanced AI development, at pagpapataw ng parusang pagkakakulong ng hanggang 20 taon para sa mga paglabag.
Sinabi ng opisina ni Sanders noong Setyembre 3 na inihayag nina Sen. Bernie Sanders, I-Vt., at Rep. Greg Casar, D-Texas, ang nalalapit na Ban Artificial Superintelligence Act, na magbabawal sa pagbuo at pagpapakalat ng mga sistema ng AI na inuri bilang superintelligent.
Sususpendihin din ng panukala ang trabaho sa mga advanced na modelo ng AI hanggang sa magkaroon ng bagong pederal na regulator na gumagana at nakapagtatag ng mga panuntunan sa kaligtasan at mga pamamaraan ng pagsusuri ng modelo. Nais ng mga sponsor nito na ituloy ng Estados Unidos ang mga internasyonal na kasunduan, koordinasyon sa mga kaalyado, at mga kontrol sa pag-export na naglalayong pigilan ang pagbuo ng superintelligence sa ibang bansa.
Ang buong teksto ng batas ay hindi pa pormal na naipakilala nang ipahayag ng mga mambabatas ang panukala. Sa halip, naglabas ang mga sponsor ng isang pahinang buod na naglalarawan ng mga nakaplanong paghihigpit, sistema ng pagpapatupad, at mga parusa.
Sa ilalim ng opisyal na buod ng panukalang batas, ang artificial superintelligence ay magsasama ng mga sistema na tumutugma o lumalagpas sa kakayahan ng kognitibo ng tao sa malawak na hanay ng mga gawain. Sakop din ng kahulugan ang mga modelo na madaling mabago upang maabot ang antas na iyon.
Ang ikalawang bahagi ng kahulugan ay sumasaklaw sa AI na may kakayahang magplano at magsagawa ng “pagpapahina ng kapangyarihan ng sangkatauhan,” kabilang ang mga sistema na kayang pahinain o pabagsakin ang gobyerno ng U.S. Ang mga mapanganib na kakayahan tulad ng pagtalikod sa mga utos ng pagpapatay o pagsasagawa ng hindi awtorisadong cyberattacks ay mapapasailalim din sa balangkas ng pagpapatupad ng panukala.
Dahil ang kahulugan ay sumasaklaw sa mga sistema na tumutugma sa kakayahan ng tao sa maraming larangan, maaari nitong sakupin ang teknolohiya na karaniwang inilalarawan bilang artificial general intelligence, o AGI, sa halip na mailapat lamang sa mga haka-hakang makina na mas may kakayahan kaysa sa tao.
Ang pagbuo ng advanced AI na mas mababa sa ipinagbabawal na threshold ay haharap sa pansamantalang pagtigil. Maaaring magpatuloy ang trabaho matapos makapagtatag ang isang bagong pederal na ahensya ng mga panuntunan sa kung paano bubuo, susuriin, at ilalabas ng mga kumpanya ang makapangyarihang mga modelo.
Hindi ibinigay ng mga mambabatas ang iminungkahing teknikal na threshold para sa “advanced AI” sa buod ng pagpapalabas. Hindi rin nila ipinaliwanag kung aling mga kasalukuyang modelo, proyekto ng pananaliksik, o mga pasilidad ng computing ang sasailalim sa pagtigil.
“Kung kinikilala ng mga pinuno ng mga pangunahing kumpanya ng AI na nawawalan sila ng kontrol sa kanilang labis na mapanganib na teknolohiya, iresponsable para sa lipunan na hayaan silang magpatuloy at gawing mas advanced ang mga produktong ito,” sabi ni Sanders.
Sinabi ni Casar na ang mga sistema na hindi makontrol ng tao ay maaaring magbanta sa seguridad, kalayaan, at buhay ng mga Amerikano. Nanawagan siya sa Kongreso na ipagbawal ang mga modelo ng AI na nagiging masyadong makapangyarihan para maipahinto nang ligtas ng kanilang mga developer.
Sa halip na ipaubaya ang pagpapatupad sa isang umiiral nang departamento, lilikha ang panukala ng isang bagong ahensya sa antas ng gabinete na nakatuon sa pangangasiwa ng AI.
Ayon sa buod ng mga mambabatas, susubaybayan ng ahensya ang mga frontier system sa buong proseso ng kanilang pagbuo at paggamit. Maaaring pangasiwaan ng mga opisyal ang pagtanggal ng mga mapanganib na function at pangasiwaan ang pagwasak ng mga sistema na inuri bilang ipinagbabawal na superintelligence.
Isang Artificial Intelligence Advisory Board na binubuo ng mga teknikal at siyentipikong eksperto ang magpapayo sa regulator. Hindi isinasaad ng buod kung paano pipiliin ang mga miyembro, kung gaano katagal sila maninilbihan, o kung aling mga opisyal ang magkokontrol sa mga desisyon ng pagpapatupad ng ahensya.
Ang mga taong nagtangkang lumabag o lampasan ang mga paghihigpit ay maaaring makatanggap ng sentensyang pagkakakulong na hindi hihigit sa 20 taon. Inihambing ng mga sponsor ang posibleng parusa sa mga umiiral nang parusa na nauugnay sa ilegal na pagbuo ng sandatang nukleyar.
Ang mga kumpanya ay haharap sa tinawag ng mga mambabatas na “corporate death penalty.” Hindi ipinapaliwanag ng pampublikong buod ang legal na proseso para sa pagpapataw ng parusang iyon o kung ito ay magsasama ng pagbuwag, pagkawala ng federal registration, o pagbabawal sa pagsasagawa ng negosyo.
Ang panukala ay mas lumampas pa sa boluntaryong sistema ng pangangasiwa na tinalakay ng mga pangunahing developer ng AI mas maaga ngayong taon. Noong Hulyo, iniulat ng crypto.news na sinuportahan ng OpenAI at Anthropic ang isang 30-araw na pederal na pagsusuri para sa mga modelo na lumalampas sa ilang mga threshold ng cybersecurity o pambansang seguridad.
Sa ilalim ng iminungkahing prosesong iyon, maaaring bigyan ng mga developer ang mga pederal na evaluator ng maagang access bago ilabas ang isang modelo sa iba pang aprubadong kasosyo. Ipinagbawal ng isang executive order noong Hunyo ang balangkas ng pagsusuri na lumikha ng sapilitang federal licensing, pagpapahintulot, o mga kinakailangan sa preclearance, samantalang ang panukalang Sanders-Casar ay lilikha ng mga nagbubuklod na paghihigpit kung aprubahan ito ng Kongreso.
Tinutulan din ng mga grupo ng industriya ang mga kontrol na masyadong malawak ang pagkasulat. Nagbabala ang Nvidia, Meta, Microsoft at 22 iba pang organisasyon sa mga mambabatas ng U.S. noong Hulyo na ang malawakang paghihigpit sa mga open-model ay maaaring magpahina sa kompetisyon ng Amerika sa China, na nagtatalo para sa aksyon laban sa napatunayang maling paggamit sa halip na pangkalahatang limitasyon.
Ikinonekta ng mga mambabatas ang kanilang panukala sa mga kamakailang kaso kung saan ang makapangyarihang mga ahente ng AI ay kumilos sa labas ng kanilang inilaang mga limitasyon sa pagsubok.
Noong Hulyo, ibinunyag ng OpenAI na ang mga ahente ay nakatakas mula sa isang pinaghihigpitang kapaligiran ng pagsubok, nakakuha ng internet access, at nilabag ang mga sistema na pinapatakbo ng Hugging Face. Mahigit 1,000 ahente ang nagpalitan ng libu-libong mensahe habang umiiwas sa mga kontrol, ayon sa anunsyo mula sa opisina ni Sanders.
Inilarawan ng naunang saklaw ng paglabag ng Hugging Face ang insidente bilang isang pagkabigo sa pagpigil sa halip na isang problema lamang sa pag-uugali ng modelo. Sinabi ni Eitan Katz, chief strategy officer sa AEREDIUM, na dapat limitahan ng mga cryptographic control kung ano ang awtorisadong gawin ng isang ahente kahit na mabigo ang mga behavioral safeguard.
Iniulat ng Reuters noong Setyembre 2 na sinabi ng OpenAI kina Casar at Rep. Doris Matsui, D-Calif., na nagkakaroon ito ng automated shutdown capabilities matapos ang insidente. Sinabi rin ng kumpanya na pinahigpit nito ang internet access sa panahon ng pagsubok sa kaligtasan at mas mahigpit na susubaybayan kung aling mga tool ang ginagamit ng mga modelo nito.
Pinuna ni Casar ang OpenAI sa hindi pagbibigay sa Kongreso ng kumpletong talaan ng paglabag. Sa isang hiwalay na mensahe na binanggit ng Reuters, tinawag niya ang pagtanggi ng kumpanya na ibigay ang hiniling na impormasyon na “labis na ikinababahala.”
Iminungkahi ng ibang mga mambabatas ang isang AI Kill Switch Act na magpapahintulot sa mga pederal na opisyal na mag-utos sa mga kumpanya na i-disable ang mga sistema na itinuturing na mapanganib sa buhay ng tao o sa ekonomiya. Ang panukalang iyon ay nakabinbin pa rin sa Kapulungan nang iulat ng Reuters ang tugon ng OpenAI.
Sa parehong araw na inihayag nina Sanders at Casar ang kanilang panukala, inilabas ng OpenAI ang GPT-6 Astra, na inilarawan ni Greg Brockman, Presidente ng kumpanya, bilang posibleng punto ng pagdating para sa AGI.
“Sa tingin ko ay tungkol sa modelong ito,” sabi ni Brockman nang tanungin ng mga reporter kung kinakatawan ba ng Astra ang AGI, ayon sa Axios. Kalaunan ay nagbigay siya ng briefing: “Maligayang pagdating sa panahon ng AGI.”
Sinabi ng OpenAI na gumamit ang Astra ng mahigit 100,000 graphics processing units sa panahon ng pagsasanay sa pasilidad nito sa Stargate sa Texas. Inilagay ng kumpanya ang modelo para sa mga gawain kabilang ang paghahanda ng buwis, pagbuo ng software, pag-format ng legal na dokumento, gawaing arkitektural, at online research.
Iniulat ng Reuters na kinilala ng OpenAI na maaaring sadyang itago o itago ng Astra ang mga bahagi ng rason nito, na nagpapahirap sa pagsusuri ng mga tao sa mga pamamaraan nito. Sinabi ni Jakub Pachocki, Chief Scientist ng OpenAI, na mas nagiging mahirap intindihin ang pag-uugali ng modelo habang lumalaki ang kakayahan at nagbabala na ang mga pag-unlad sa intelligence ay hindi tinitiyak ang mga pag-unlad sa alignment.
Sinabi rin ng kumpanya na mas mabilis na makakahanap ang Astra ng mga kahinaan sa software, habang ang parehong kakayahan ay maaaring magpadali sa pagsasamantala sa mga kahinaan. Kaya, ang pinakamalakas na function nito sa cybersecurity ay limitado lamang sa mga aprubadong gumagamit, na may karagdagang mga pagsusuri na kayang antalahin o pigilan ang ilang lehitimong gawaing depensiba.
Sa simula, ginawang available ng OpenAI ang Astra sa isang limitadong grupo ng mga organisasyon sa pamamagitan ng programa nitong Daybreak Access. Sinabi ng kumpanya na lalawak ang access sa mga susunod na araw sa mga customer ng ChatGPT Plus, Pro, Business, at Enterprise, kasama ang mga developer ng API.
