Ang mga eksperto sa seguridad mula sa Estados Unidos at China ay nagpanukala ng mga panuntunan na magbabawal sa artificial intelligence na malayang magsagawa ng cyberattacks laban sa mga sistemang pangkontrol sa nukleyar o magpasya na gumamit ng sandatang nukleyar.
Isang kamakailang ulat ng Brookings at Fudan University na nakabase sa Shanghai ang humihimok sa U.S. at China na palawigin ang kanilang pangako sa kontrol ng tao sa mga sandatang nukleyar sa iba pang gamit ng AI sa militar, kabilang ang cyberattacks sa mga sistemang pangkontrol sa nukleyar.
“Maaaring manguna sina Pangulong Donald Trump at Xi Jinping sa pamamahala ng mga panganib na ito sa pamamagitan ng pagsang-ayon na ang mga tao lamang, hindi ang AI, ang dapat gumawa ng desisyon na magsimula ng cyberattack laban sa mga sistema ng pangkontrol, pamamahala, at komunikasyon sa nukleyar (NC3) ng isa’t isa o kritikal na imprastraktura,” isinulat ng mga mananaliksik.
Tinutulungan ng mga sistemang NC3 ang mga pamahalaan na makatuklas ng banta, magpasya kung gagamit ng sandatang nukleyar, at magpadala ng mga utos sa paglulunsad, ngunit ang mga pagkabigo sa anumang yugto ay maaaring makagambala sa komunikasyon, maling basahin ang isang atake, hikayatin ang isang unang atake, o magdulot ng di-sinasadya o hindi awtorisadong paglulunsad.
“Ang pagpapalawig ng prinsipyo na inilalapat sa mga sandatang nukleyar—na ang mga pag-atake na may estratehikong epekto ay dapat magpakita ng hangarin ng tao at dapat mapailalim sa pananagutan ng tao—ay hindi nangangailangan na magbahagi ang Washington at Beijing ng iba pang prinsipyo ng cybersecurity o proteksyon ng imprastraktura,” isinulat ng mga mananaliksik.
Ang iminungkahing kasunduan ay mangangailangan sa parehong bansa na bawasan ang panganib na ang tsansa, pagkakamali ng tao, hindi mahuhulaan na AI, o hindi awtorisadong aktor ay maaaring magdulot ng mga atake na may estratehikong kahihinatnan.
Ang panawagan para sa mga proteksyon na parang nukleyar ay bahagi ng isang lumalaking debate kung paano pabagalin ang pagbuo ng AI at panatilihin ang lalong nagiging may kakayahang sistema sa ilalim ng kontrol ng tao. Ang pagkabahala ay partikular na matindi sa militar, kung saan ang mga awtomatikong desisyon na ginawa sa loob ng milisecond ay maaaring gawing krisis nukleyar ang isang maling babala o cyberattack.
Ang pagkabahalang iyon ay binigyang-diin noong Pebrero nang ang mga modelo mula sa OpenAI, Google, at Anthropic ay gumamit ng sandatang nukleyar sa 95% ng mga sinubukan na sitwasyon ng war-game, bagaman nagbabala ang mga eksperto na maaaring hinikayat ng simulasyon ang paglala.
Sa parehong buwan, tinanggihan ng Anthropic ang mga kahilingan ng Pentagon na alisin ang mga restriksyon ni Claude sa malawakang pagsubaybay at ganap na awtonomong sandata. Inutusan ni Trump ang mga ahensya ng pederal na itigil ang paggamit ng teknolohiya ng kumpanya, ngunit nagpasya ang isang hukom ng pederal noong Ago. 28 na iligal na ginantihan ng administrasyon ang Anthropic.
Kumalat na ang panawagan para sa pagpigil sa buong industriya. Mas maaga ngayong buwan, hinimok ng CEO ng Anthropic na si Dario Amodei ang mga developer na pabagalin ang pagtaas ng kakayahan, na nakakuha ng suporta mula sa CEO ng OpenAI na si Sam Altman at may-ari ng xAI na si Elon Musk, habang tinanong ng OpenAI ang Kongreso kung ang mga kumpanya ay maaaring magkoordinisa ng pagpapabagal nang hindi lumalabag sa batas kontra-monopolyo.
Dahil walang nakatakdang umiiral na pagbagal, ang mga may-akda ng Brookings ay nagpanukala ng mas tiyak na panuntunan: Tanging mga tao lamang ang dapat payagan na magbigay-awtorisasyon sa mga pag-atake sa mga sistemang pangkontrol sa nukleyar o ang paggamit ng sandatang nukleyar.
“Ang pamamahala ng AI sa militar ay hindi isang negosasyon na maaaring maghintay—ito ay isang karera laban sa oras,” isinulat nila.
BTC