Panganib sa mga pamahalaan na ulitin ang mga pagkakamaling nagawa sa simula ng kapanahunan ng nukleyar kung maghihintay pa sila upang lumikha ng mga batas na namamahala sa artificial intelligence, babala ni UK Foreign Secretary Yvette Cooper.
Sa isang artikulong inilathala noong Lunes, sinabi ni Cooper na nag-aalok ang AI ng mga tagumpay ngunit nagpapakita rin ng mga bagong panganib habang nagiging mas malakas at malawakang magagamit ang teknolohiya.
“Noong nakaraang buwan, sa Shenzhen, China, nakita ko ang pambihirang pangako ng AI at robotics na ginagamit para sa life-saving healthcare,” isinulat ni Cooper. “Ngunit ang parehong mga teknolohiya ay binabago din ang kinabukasan ng digmaan, krimen at social cohesion sa nakababahalang paraan.”
Sinabi ni Cooper na ang pamamahala sa mga panganib na dulot ng AI ay maaaring maging “pinakamalaking hamon sa seguridad ng susunod na dekada” at iginiit niya na kailangan ng mga pamahalaan ng internasyonal na kasunduan hinggil sa frontier technology bago pa man pilitin ng isang krisis ang aksyon.
Inihambing niya ang kasalukuyang labanan sa pagbuo ng mga sistema ng AI sa maagang karera sa armas nukleyar, sinasabing ang mga pandaigdigang kasunduan sa kaligtasan ay lumitaw lamang pagkatapos masaksihan ng mga bansa ang pagkawasak na dulot ng mga sandatang atomiko.
“Sa nukleyar, ang internasyonal na kasunduan ay dumating lamang matapos makita ng mundo ang nakakatakot na kapangyarihan ng bagong teknolohiya sa Hiroshima,” isinulat ni Cooper. “Hindi natin kayang maghintay para sa isang AI na katumbas ng Hiroshima bago tayo kumilos.”
Nanawagan si Cooper sa Britain na gamitin ang diplomatikong impluwensya nito upang tipunin ang Estados Unidos, China, at iba pang pangunahing kapangyarihan ng AI upang magtatag ng magkakasamang prinsipyo at pamantayan sa kaligtasan, tinutukoy ang 2023 AI Safety Summit sa Bletchley Park, kung saan nagpulong ang mga pandaigdigang pinuno mula sa 29 na bansa at European Union upang talakayin ang lumalabas na panganib ng AI. Tinawag ito ni Cooper na isang halimbawa ng kakayahan ng UK na “tipunin ang mundo sa seguridad ng AI.”
Ang babala ni Cooper ay dumating matapos ang ilang buwan ng lumalalang pag-aalala kung paano dapat pangasiwaan ng mga pamahalaan ang mas lalong lumalakas na mga sistema ng AI.
Noong Mayo, binalaan ng U.K.’s AI Security Institute na mabilis ang mga pag-unlad sa kakayahan ng AI cybersecurity matapos maging pangalawang modelo ang GPT-5.5 ng OpenAI na makakumpleto ng simulate na cyberattack nang walang tulong ng tao, kasunod ng Claude Mythos Preview ng Anthropic.
Pagkalipas ng ilang araw, binalaan ng International Monetary Fund na maaaring “palakasin” ng AI ang mga cyberattack laban sa pandaigdigang sistema ng pananalapi sa pamamagitan ng pagpapababa ng kasanayang kinakailangan upang samantalahin ang mga kahinaan, hinimok ang mga policymakers na ituring ang cybersecurity bilang isyu ng financial stability sa halip na isang purong teknikal na problema.
Noong Hunyo, nilagdaan ni Pangulong Donald Trump ang isang executive order na lumilikha ng isang boluntaryong balangkas para sa pagsusuri ng mga advanced na modelo ng AI bago ilabas, pinapalawak ang mga programa ng AI cybersecurity, at nagdidirekta sa mga ahensya na suriin ang mga potensyal na panganib sa pambansang seguridad mula sa mga frontier AI model.
Sa parehong buwan, ang mga panawagan para sa mas mahigpit na patakaran ay nagmula rin sa loob ng industriya ng AI, kasama ang CEO ng Anthropic na si Dario Amodei na nangangatwiran na hindi na sapat ang mga kinakailangan sa transparency at nananawagan para sa sapilitang third-party testing ng mga frontier model. Ang demand na ito ay sinundan ng pag-utos ng gobyerno ng U.S. sa Anthropic na paghigpitan ang access sa Claude Fable 5 at Mythos 5 dahil sa mga alalahanin sa pambansang seguridad bago alisin ang utos noong Hulyo.
