Le Conseil de sécurité de l’ONU consacrera son mercredi après-midi à écouter ceux qui construisent la technologie qui l’inquiète le plus.
Le PDG d’OpenAI Sam Altman, le PDG d’Anthropic Dario Amodei, le chercheur en sécurité de l’IA Yoshua Bengio et le PDG de Hugging Face Clément Delangue doivent tous informer les 15 membres du Conseil — l’organe de l’ONU habilité à autoriser des sanctions et des actions militaires — sur les risques posés par l’intelligence artificielle.
DeepSeek est également invitée. La startup chinoise qui a effacé environ 600 milliards de dollars de capitalisation boursière de Nvidia lorsqu’elle a lancé un modèle à bas coût en janvier 2025 a été invitée à faire une déclaration, aux côtés d’une autre entreprise chinoise, Moonshot, développeur des modèles Kimi.
La France a organisé la session de mercredi et assure ce mois-ci la présidence tournante du Conseil. Le ministre des Affaires étrangères Jean-Noël Barrot la présidera, et la note conceptuelle qui sous-tend la réunion porterait sur le risque que les systèmes d’IA échappent au contrôle humain.
Cette même réunion d’information devrait également aborder des IA susceptibles, à terme, de mener des cyberattaques, d’influencer des élections ou de concevoir des armes sans intervention humaine directe, ce qui explique pourquoi un Conseil pensé pour les guerres et les sanctions entend cette semaine des patrons de la tech plutôt que des généraux.
Amodei participera à distance plutôt qu’en personne. Le 12 septembre, il a publié un essai intitulé « We Must Pace the Frontier », dans lequel il soutient que le secteur devrait délibérément ralentir le rythme auquel il développe des modèles de frontière toujours plus performants — les systèmes d’IA les plus vastes et les plus avancés jamais publiés par un laboratoire. Il a indiqué qu’Anthropic accorderait à des évaluateurs externes un accès permanent, de niveau interne, afin de vérifier ses engagements en matière de sécurité. Sam Altman et Elon Musk ont tous deux déclaré être d’accord dans les heures qui ont suivi.
Amodei a qualifié la Chine de « pays autocratique disposant de loin des capacités d’IA les plus avancées » et a soutenu que les États-Unis devraient continuer à restreindre les exportations de puces avancées vers Pékin, tout en demandant à la Chine de coopérer sur des règles mondiales de sécurité. Le ministère chinois des Affaires étrangères a jugé cet essai contre-productif, tandis que les médias d’État l’ont qualifié de « mode d’emploi de guerre froide » visant à contenir la Chine.
Le président Donald Trump, de son côté, ne veut rien entendre de cet appel au ralentissement. Après la publication de l’essai d’Amodei, le président a qualifié les avertissements sur une prise de contrôle par l’IA de « canular » lié à la « gauche radicale » et a accusé directement Amodei d’actes répréhensibles sans fournir de preuves.
Quelques jours plus tard, le roi Charles a accueilli dans sa résidence écossaise des dirigeants d’Anthropic, OpenAI, Nvidia et Google DeepMind pour un sommet sur la sécurité de l’IA qui a donné lieu à des discussions, mais à aucun accord rendu public à ce jour.
La session de mercredi ne devrait pas davantage déboucher sur un accord contraignant. Elle intervient deux jours avant que Trump ne rencontre le président chinois Xi Jinping à Washington le 24 septembre, lors d’un sommet où la sécurité de l’IA figurerait à l’ordre du jour aux côtés du commerce.
