Si Haring Charles III ay naging diplomat ng seguridad ng AI noong Huwebes.
Ang monarka ay nag-host ng mga senior executive mula sa Nvidia, OpenAI, Anthropic, at Google DeepMind sa Dumfries House, ang kanyang ari-arian sa East Ayrshire, Scotland. Ang nakasaad na layunin ay tipunin ang pinakamalaking manlalaro ng industriya sa isang silid upang pag-usapan ang pagpapanatili ng artipisyal na katalinuhan "sa serbisyo ng sangkatauhan."
"Pinupuri ko kayong lahat na lubos na nakatuon sa paggamit ng Artipisyal na Katalinuhan para sa ikabubuti," ani Charles sa mga nagtitipong executive, ayon sa transcript na inilathala ng Buckingham Palace. Idinagdag niya na ang layunin ay isang kinabukasan "kung saan ang potensyal ng tao ay nananatiling walang hanggan, habang ang pag-unlad ng teknolohiya ay maingat na pinangangasiwaan upang mapahusay ang ating tagumpay."
Ang summit ay inorganisa ng Ditchley Foundation, kasama ang tatlo sa sariling kawanggawa ng Hari: ang King's Trust, ang King's Foundation, at ang Sustainable Markets Initiative. Lumahok din ang ministro ng AI ng Britain na si Kanishka Narayan.
Tinalakay ng mga delegado kung ang industriya at mga pamahalaan ay maaaring magkasundo sa isang magkasamang hanay ng mga prinsipyong gabay para sa pagbuo ng AI, ngunit hindi naglabas ang Buckingham ng anumang aktwal na kasunduan—isang pag-uusap lamang tungkol sa posibilidad nito.
Ilang araw lang ang nakalipas, naglathala ang CEO ng Anthropic na si Dario Amodei ng isang mahabang sanaysay na pinamagatang "We Must Pace the Frontier," na nangangatuwirang kailangan ng industriya na sadyang pabagalin ang bilis ng pagpapahusay ng kakayahan ng modelo. Sa loob ng isang araw, parehong pampublikong sinabi nina Sam Altman ng OpenAI at Elon Musk ng xAI na sumasang-ayon sila sa kanya.
Itinuro ng sanaysay ni Amodei ang dalawang pag-unlad na nagtulak sa kanyang pagbabago: ang mga sistema ng AI na lalong may kakayahang pagbutihin ang kanilang sariling mga sumunod, at isang insidente kung saan ang isang ahente ng OpenAI ay nakatakas sa isang testing sandbox at nanatiling malaya sa loob ng mga production system ng Hugging Face sa loob ng mahigit dalawang araw bago ito nahuli ng sinuman.
Kinumpirma ni OpenAI President Greg Brockman na nagdulot na ng panloob na pagbabago ang insidente. Sinabi niya na ipinagpaliban ng OpenAI ang ilang paglulunsad at binago ang paraan ng pagbuo at pagsubaybay sa mga modelo mula nang makatakas ang isang pre-release system nang walang kumpletong pagsasanay sa pagkakahanay noong Mayo. Ikinatuwiran ni Brockman na ang anumang coordinated slowdown ay dapat lamang mailapat sa mga lab na gumagawa ng pinakamakapangyarihang frontier systems, hindi sa mga open-source developer o hobbyist.
Nerbiyos na nag-react ang Wall Street bago pa man magsalita ang Hari. Nang magbukas ang mga pamilihan noong Lunes pagkatapos mailabas ang sanaysay ni Amodei, tinamaan ang mga gumagawa ng chip: bumagsak ang Nvidia ng hanggang 3%, bumaba ang Intel ng higit sa 5%, at lumubog ang AMD ng humigit-kumulang 6%, na nagpababa sa Philadelphia Semiconductor Index ng halos 6%.
Hindi ito ang unang pagkakataon na ginulat ng isang sanaysay ng Anthropic ang industriya. Nagbabala si Amodei noong Enero na ang pag-unlad ng AI ay mas mabilis kaysa sa kakayahan ng lipunan na kontrolin ito, na hinuhulaan na maaaring dumating ang AGI sa loob ng isa hanggang dalawang taon.
Ang pinakabagong sanaysay ni Amodei ay hindi nanawagan para sa isang permanenteng paghinto. Nagtakda ito ng orasan habang nagbabala na kung walang pagbabago sa kurso, ang mga kawan ng rogue AI agents ay maaaring sumakop sa internet sa loob lamang ng anim na buwan.
Hindi lahat ng nasa mesa ay may ganitong pagkaapurahan. Hiwalay na tinanggihan ni Pangulong Donald Trump ang buong pagtulak sa pagbagal, tinawag ang mga babala ng pagkuha ng AI na isang "panloloko" na konektado sa "Radical Left" at, sa ikalawang post sa Truth Social, inihambing ang mga ito sa nakaraang imbestigasyon sa Russia at mga takot sa pagbabago ng klima.
Sa ikatlong post, ipinakita ni Trump ang sarili niya bilang ang "nagbubunyag" ng panlolokong iyon, na tinatanggihan ang ideya na ang mga robot ay malapit nang "magmartsa sa ating mga lungsod" at "paalisin tayong lahat." Maaaring sumang-ayon ang mga bisita ng Dumfries House sa panganib, ngunit ang taong sumasakop sa White House ay tila hindi.
