Le Secrétaire général de l'ONU, António Guterres, a ouvert lundi à Genève le premier Dialogue mondial sur la gouvernance de l'IA, déclarant aux 193 nations que l'IA dépasse déjà les institutions censées la régir – et que l'humanité mène une expérience sur elle-même "sans plan, et sans consentement".

"L'intelligence artificielle progresse à une vitesse vertigineuse", a déclaré Guterres en ouverture de son discours. "Une technologie capable de remodeler les économies, de transformer le monde du travail, d'influencer les élections et de faire pencher la balance de la sécurité est déployée plus vite que quiconque – y compris ceux qui la construisent – ne peut le suivre."

La salle comprenait les 193 États membres de l'ONU, réunis à Genève pour le premier Dialogue mondial sur la gouvernance de l'IA, une tentative multilatérale de régir une technologie qui a déjà dépassé tous ceux qui tentent de le faire.

Le concept utilisé par Guterres pour expliquer les risques d'une IA non gouvernée était le "vibe coding" – un terme inventé par Andrej Karpathy, membre fondateur d'OpenAI et ancien directeur de l'IA chez Tesla, pour décrire la programmation "au feeling" : dites à l'IA ce que vous voulez, laissez-la gérer le reste, sans regarder de trop près. Merriam-Webster l'a récemment ajouté à son dictionnaire.

Guterres a reconnu que le "vibe coding" "peut faire des merveilles" à mesure que de plus en plus de personnes font confiance aux produits créés par l'IA.

"Mais nous ne pouvons pas 'vibe-coder' la vérité", a-t-il déclaré. "Nous ne pouvons pas 'vibe-coder' l'avenir de l'humanité."

Les chiffres derrière cette déclaration n'étaient pas tendres. Guterres a rappelé qu'il a fallu 15 ans à Internet pour atteindre un milliard de personnes, et deux ans à l'IA. Il a décrit les systèmes actuels comme "non plus des outils attendant des instructions – ils écrivent du code, agissent en ligne et prennent des décisions avec de moins en moins de supervision humaine".

"Nos institutions ont été bâties pour régir des machines qui suivent des commandes. Elles ne sont pas prêtes pour des machines qui décident."

Le dialogue est né du Pacte numérique mondial de 2024, qui a établi pour la première fois la gouvernance internationale de l'IA comme mandat de l'ONU. Sa session d'ouverture, deux ans plus tard, a également reçu le rapport préliminaire du Panel scientifique international indépendant sur l'intelligence artificielle – 40 scientifiques de 140 pays – qui a publié la semaine dernière la conclusion que personne ne peut actuellement garantir que l'IA ne causera pas de dommages catastrophiques.

La vitesse était l'un des trois avertissements que Guterres a tirés du panel. Le second était le pouvoir : le calcul, les données et les talents sont concentrés dans une poignée d'entreprises et de pays, la majeure partie du monde étant exclue des décisions qui la façonnent déjà, une situation qui inquiète également d'autres experts en IA comme Yann Lecun, Andy Kowinski et Yoshua Bengio.

Le troisième était la vérité – un mensonge généré par machine persuade désormais aussi efficacement qu'un fait vérifié, érodant constamment ce que Guterres a appelé "l'intégrité de notre écosystème d'information".

Enfants cobayes et robots tueurs

Parmi les propositions concrètes de Guterres figure un Engagement pour la sécurité des enfants face à l'IA, exigeant des entreprises qu'elles prouvent la sécurité par des tests indépendants avant que toute IA n'atteigne les enfants, qu'elles maintiennent une tolérance zéro pour la génération d'images d'abus sexuels d'enfants, et qu'elles connectent les enfants en détresse à un soutien humain réel plutôt que de les laisser seuls avec un chatbot. "Aucun enfant ne devrait servir de cobaye pour une IA non réglementée."

Et puis il y a eu les robots tueurs. Guterres a qualifié les armes autonomes létales – des machines qui sélectionnent et tuent une cible sans jugement humain – de "moralement répugnantes" et a exigé leur interdiction par le droit international.

Les États sont déjà à la table des discussions. Il n'a pas suggéré qu'ils prennent leur temps.

Le Dialogue se réunira de nouveau à New York en 2027. Guterres a également appelé l'Assemblée générale à créer un Fonds mondial pour l'IA axé sur l'accès à l'informatique pour les pays en développement, et a mis au défi chaque grande entreprise d'IA de faire fonctionner tous ses centres de données avec des énergies renouvelables d'ici 2030 – l'année où il estime que ces installations dépasseront la consommation d'électricité de toutes les nations, sauf cinq.