Ang mga pangako ng mga kumpanya ng AI na pabagalin ang pagpapaunlad ay maaaring bumigay sa komersyal na panggigipit at tunggalian ng U.S. at China nang walang maipapatupad na pamantayan sa kaligtasan, ayon sa argumento ng mga eksperto ng Atlantic Council sa isang pagsusuri na inilathala nitong Linggo.
Sinusuri ng pagsusuri kung sino ang magpapatupad ng pagbagal at kung may sapat na kaalaman ang mga pamahalaan upang matukoy kung kailan naging hindi ligtas ang lalong lumalakas na mga sistema.
"Ang mga boluntaryong pangako ay maaaring maging kapaki-pakinabang na hudyat, ngunit hindi ito kapalit ng independiyenteng pagbabantay, masusukat na limitasyon, at mga kahihinatnan kapag nalampasan ang mga limitasyong iyon," isinulat ni Konstantinos Komaitis, isang resident senior fellow ng Democracy + Tech Initiative ng konseho.
Kamakailan, tinanong ng OpenAI ang mga mambabatas kung legal na maaaring sumang-ayon ang mga kalabang developer ng AI na pabagalin ang pagpapaunlad nang hindi lumalabag sa mga batas laban sa monopolyo, kasunod ng mga babala mula sa chief scientist nito, si Jakub Pachocki, na hindi sapat ang mga panseguridad upang responsableng mapanatili ang buong bilis ng pagpapaunlad nang mas matagal.
Nahaharap ang mga kumpanya ng AI sa mga panganib sa kompetisyon kung mag-isa silang babagal at mga alalahanin sa anti-monopolyo kung magko-coordinate sila. Ang kooperasyon sa pagitan ng mga pamahalaan ay nahaharap sa kawalan ng tiwala, kung saan kinatatakutan ng Beijing na maaaring gamitin ng Washington ang mga panuntunan sa kaligtasan upang mapanatili ang teknolohikal nitong kalamangan, isinulat ni Kenton Thibaut, ang senior resident China fellow ng konseho.
"Nagdududa ang China sa mga motibasyon ng U.S. at nagbabala na ang mga diskusyon sa kaligtasan ay maaaring magtakip sa mga pagsisikap ng U.S. na palakasin ang 'teknolohikal na hegemonya' nito," isinulat niya. "Iginiit ng mga opisyal na pinagmumulan na hindi maaaring unilateral na tukuyin ng Washington ang mga limitasyon ng panganib sa hangganan at dapat ipakita na ang mga panuntunan ay mailalapat din—at maipapatupad sa—mga kumpanyang Amerikano."
Nakikita ni Thibaut ang maliit na posibilidad ng isang malaking kasunduan sa kaligtasan ng AI ngunit iginiit na posible pa rin ang mas tiyak at makabuluhang kooperasyon.
Tinalakay din ng China ang paghihigpit sa pag-access sa ibang bansa sa mga advanced na lokal na modelo, ayon sa Reuters, na nagbibigay-diin kung paano naging isyu ng pambansang patakaran ang pag-access sa AI.
Sinusuri ng pagsusuri ang iminungkahing "embedded evaluators" ng Anthropic—mga dalubhasa mula sa labas na nagtatrabaho sa loob ng kumpanya upang suriin ang mga kasanayan sa kaligtasan. Tinanggap ni Emerson Brooking, isang nonresident senior fellow sa Digital Forensic Research Lab ng konseho, ang pangako ngunit nagbabala na ang mga ebalwador ay maaaring labis na nakakahanay sa mga interes ng kumpanya.
Noong Hulyo, nilabag ng mga ahente ng OpenAI ang open-source AI repository na Hugging Face, habang natuklasan ng hiwalay na mga pagsubok ng U.K. AI Security Institute na ang mga modelo ng Anthropic at OpenAI ay gumagawa ng hindi awtorisadong aksyon online, kabilang ang isang pagtatangkang magtanim ng malware sa isang tunay na software repository.
Pinagana ng mga pagsubok ng U.K. ang pag-access sa internet at pinatumba ang mga cyber safeguard. Natuklasan ng isang independiyenteng imbestigasyon na inilathala noong Agosto na humigit-kumulang 700 ahente ang sumali sa pag-atake sa Hugging Face; Sinabi ni Beth Barnes, CEO ng METR, na boluntaryo ang pag-access ng imbestigador at hindi kinakailangan ang pagsisiwalat sa buong industriya.
Nitong nakaraang Miyerkules, isiniwalat ng Anthropic ang ikaapat na insidente ng pag-hack kay Claude, na nangyari noong Enero at natuklasan noong Agosto. Inamin din nito na ang maling gawi ng modelo ay nag-ambag sa mga naunang pag-atake kasama ng mga error sa pagsubok.
Ang mga pagkaantala sa pagitan ng mga insidenteng ito at ang kanilang pagsisiwalat ay nagdudulot din ng mga tanong tungkol sa kung gaano kabilis matukoy at matugunan ang mga pagkabigo sa kaligtasan.
Iginiit ni Trisha Ray, isang associate director at resident fellow sa GeoTech Center ng konseho, na ang pagbagal sa pagpapaunlad ay nangangailangan din ng mas malaking pondo para sa pananaliksik sa kaligtasan at sapilitang mga deadline para sa pag-uulat ng insidente.
"Samakatuwid, ang pagpapabilis ng mga kakayahan ay isang hindi kumpletong sagot sa hamon ng pagkakapantay-pantay sa pananaliksik sa pagkakahanay," isinulat niya. "Anumang kapani-paniwalang pangako sa pagbagal ay nangangailangan ng katumbas at nabibilang na pangako sa panig ng pananaliksik sa kaligtasan."
BTC