Gugugulin ng UN Security Council ang Miyerkules ng hapon sa pakikinig sa mga taong bumubuo ng teknolohiyang siya nitong pinakaikinababahala.
Nakatakdang magbigay ng briefing kina OpenAI CEO Sam Altman, Anthropic CEO Dario Amodei, AI safety researcher Yoshua Bengio, at Hugging Face CEO Clément Delangue sa 15-miyembrong konseho—ang sangay ng UN na may kapangyarihang magpahintulot ng sanctions at aksyong militar—ukol sa mga panganib na dulot ng artificial intelligence.
Imbitado rin ang DeepSeek. Ang Chinese startup na nagbura ng humigit-kumulang $600 bilyon mula sa market cap ng Nvidia nang ilunsad nito ang murang modelo nito noong Enero 2025 ay hinilingang magsumite ng pahayag, kasama ang isa pang kumpanyang Chinese na Moonshot, ang mga developer ng Kimi models.
Ang France ang nag-organisa ng sesyon ngayong Miyerkules at hawak nito ang umiikot na pagkapangulo ng konseho ngayong buwan. Si Foreign Minister Jean-Noël Barrot ang mamumuno rito, at iniulat na nakasentro ang concept note ng pulong sa posibilidad na ang mga AI system ay makawala sa kontrol ng tao.
Inaasahang tatalakayin din sa naturang briefing ang AI na maaaring kalaunang magsagawa ng cyberattacks, makaimpluwensya sa mga halalan, o magdisenyo ng mga sandata nang walang taong nasa loop, kaya isang konsehong itinatag para sa mga digmaan at sanctions ang nakikinig ngayon sa mga tech CEO sa halip na sa mga heneral.
Lalahok si Amodei nang remote sa halip na personal na dumalo. Noong Setyembre 12, naglathala siya ng sanaysay na pinamagatang "We Must Pace the Frontier," kung saan iginiit niyang dapat sadyang bagalan ng industriya ang bilis ng pagbuo nito ng mas may kakayahang frontier models—ang pinakamalaki at pinakaabansadong AI systems na nailabas ng alinmang lab. Sinabi niyang bibigyan ng Anthropic ang mga panlabas na evaluator ng permanenteng access na kapantay ng sa staff upang masuri ang mga pangako nito sa kaligtasan. Sina Sam Altman at Elon Musk ay kapwa nagsabing sumasang-ayon sila sa loob lamang ng ilang oras.
Tinawag ni Amodei ang China na "ang awtokratikong bansang may pinakamauunlad na kakayahan sa AI" at iginiit na dapat ipagpatuloy ng U.S. ang paghihigpit sa pag-export ng mga advanced chip sa Beijing, kahit na hinihikayat nito ang Beijing na makipagtulungan sa mga pandaigdigang alituntunin sa kaligtasan. Tinawag ng Foreign Ministry ng China na kontra-produktibo ang sanaysay, at binansagan ito ng state media bilang isang "Cold War playbook" na naglalayong pigilan ang China.
Samantala, ayaw ni Pangulong Donald Trump na makisali sa panawagang pabagalin ang pag-unlad. Matapos mailathala ang sanaysay ni Amodei, tinawag ng pangulo na isang "hoax" na konektado sa "Radical Left" ang mga babala tungkol sa pag-agaw ng AI sa kontrol at direktang inakusahan si Amodei ng maling gawain nang walang iniharap na ebidensya.
Ilang araw ang lumipas, inanyayahan ni King Charles ang mga executive mula sa Anthropic, OpenAI, Nvidia, at Google DeepMind sa kanyang estate sa Scotland para sa isang AI safety summit na nauwi sa pag-uusap ngunit walang pampublikong kilalang kasunduan.
Malamang na hindi rin magbubunga ng isang binding na kasunduan ang sesyon sa Miyerkules. Gaganapin ito dalawang araw bago makipagpulong si Trump kay Chinese President Xi Jinping sa Washington sa Setyembre 24, isang summit kung saan iniulat na kabilang ang AI safety sa agenda kasama ng kalakalan.
