Consiliul de Securitate al ONU își va petrece după-amiaza de miercuri ascultând oamenii care construiesc tehnologia de care se teme cel mai mult.

CEO-ul OpenAI, Sam Altman, CEO-ul Anthropic, Dario Amodei, cercetătorul în siguranța AI Yoshua Bengio și CEO-ul Hugging Face, Clément Delangue, sunt programați să informeze consiliul format din 15 membri — organismul ONU cu puterea de a autoriza sancțiuni și acțiuni militare — cu privire la riscurile generate de inteligența artificială.

Și DeepSeek este invitată. Startupul chinez care a șters aproximativ 600 de miliarde de dolari din capitalizarea bursieră a Nvidia atunci când a lansat un model low-cost în ianuarie 2025 a fost rugat să facă o declarație, alături de o altă companie chineză, Moonshot, dezvoltatoarea modelelor Kimi.

Franța a organizat sesiunea de miercuri și deține în această lună președinția rotativă a consiliului. Ministrul de Externe Jean-Noël Barrot o va prezida, iar nota conceptuală din spatele reuniunii se concentrează, potrivit informațiilor, pe sistemele AI care scapă dincolo de controlul uman.

Se așteaptă ca același briefing să abordeze și AI care ar putea, în cele din urmă, să lanseze atacuri cibernetice, să influențeze alegeri sau să proiecteze arme fără intervenție umană directă, motiv pentru care un consiliu construit pentru războaie și sancțiuni îi ascultă săptămâna aceasta pe CEO-ii din tehnologie, nu pe generali.

Amodei va participa de la distanță, în loc să fie prezent fizic. Pe 12 septembrie, el a publicat un eseu intitulat „We Must Pace the Frontier”, în care susține că industria ar trebui să încetinească în mod deliberat ritmul în care construiește modele frontier mai capabile — cele mai mari și mai avansate sisteme AI lansate de vreun laborator. El a spus că Anthropic va oferi evaluatorilor externi acces permanent, la nivel de staff, pentru a verifica promisiunile sale privind siguranța. Sam Altman și Elon Musk au spus amândoi, în decurs de câteva ore, că sunt de acord.

Amodei a numit China „țara autocratică cu de departe cele mai avansate capabilități AI” și a susținut că SUA ar trebui să continue restricționarea exporturilor de cipuri avansate către Beijing, chiar în timp ce solicită Beijingului să coopereze la reguli globale de siguranță. Ministerul chinez de Externe a catalogat eseul drept contraproductiv, iar presa de stat l-a descris ca pe un „manual de Război Rece” menit să țină China în frâu.

Între timp, președintele Donald Trump nu vrea să audă de ideea încetinirii. După publicarea eseului lui Amodei, președintele a numit avertismentele privind preluarea controlului de către AI o „farsă” asociată cu „Stânga Radicală” și l-a acuzat direct pe Amodei de nereguli, fără a oferi dovezi.

Câteva zile mai târziu, regele Charles a găzduit directori de la Anthropic, OpenAI, Nvidia și Google DeepMind la proprietatea sa din Scoția pentru un summit privind siguranța AI, care a produs discuții, dar niciun acord cunoscut public.

Nici sesiunea de miercuri nu este probabil să producă un acord cu caracter obligatoriu. Ea are loc cu două zile înainte ca Trump să se întâlnească la Washington, pe 24 septembrie, cu președintele chinez Xi Jinping, într-un summit în care, potrivit relatărilor, siguranța AI se află pe agendă alături de comerț.