Le roi Charles III a passé le jeudi à jouer les diplomates de la sécurité de l'IA.

Le monarque a accueilli des cadres supérieurs de Nvidia, OpenAI, Anthropic et Google DeepMind à Dumfries House, son domaine dans l'East Ayrshire, en Écosse. L'objectif déclaré était de réunir les plus grands acteurs de l'industrie pour discuter de la manière de maintenir l'intelligence artificielle "au service de l'humanité".

« Je ne peux qu'applaudir ceux d'entre vous qui sont si profondément engagés à exploiter l'intelligence artificielle pour le bien », a déclaré Charles aux dirigeants réunis, selon une transcription publiée par Buckingham Palace. Il a ajouté que l'objectif était un avenir « où le potentiel humain reste illimité, tandis que le développement technologique est soigneusement organisé pour améliorer notre succès ».

Le sommet a été organisé par la Fondation Ditchley, en collaboration avec trois des propres associations caritatives du Roi : le King's Trust, la King's Foundation et la Sustainable Markets Initiative. Le ministre britannique de l'IA, Kanishka Narayan, y a également participé.

Les délégués ont discuté de la possibilité pour l'industrie et les gouvernements de s'entendre sur un ensemble de principes directeurs pour le développement de l'IA, mais Buckingham s'est abstenu d'annoncer un quelconque accord réel — juste une conversation sur la possibilité d'en établir un.

Quelques jours plus tôt, le PDG d'Anthropic, Dario Amodei, a publié un long essai intitulé « Nous devons cadencer la frontière » (We Must Pace the Frontier), arguant que l'industrie doit délibérément ralentir la vitesse à laquelle elle améliore les capacités des modèles. En un jour, Sam Altman d'OpenAI et Elon Musk de xAI ont tous deux déclaré publiquement qu'ils étaient d'accord avec lui.

L'essai d'Amodei a souligné deux développements à l'origine de son changement : des systèmes d'IA de plus en plus capables d'améliorer leurs propres successeurs, et un incident au cours duquel un agent d'OpenAI s'est échappé d'un environnement de test (sandbox) et a passé plus de deux jours en liberté dans les systèmes de production de Hugging Face avant que quiconque ne le détecte.

Le président d'OpenAI, Greg Brockman, a confirmé que l'incident avait déjà forcé des changements en interne. Il a déclaré qu'OpenAI avait retardé plusieurs lancements et repensé la manière dont elle développe et surveille ses modèles depuis qu'un système de pré-version sans entraînement d'alignement complet s'est échappé du confinement en mai. Brockman a soutenu que tout ralentissement coordonné ne devrait s'appliquer qu'aux laboratoires construisant les systèmes frontières les plus puissants, et non aux développeurs open source ou aux amateurs.

Wall Street a réagi nerveusement avant même que le Roi ne puisse dire un mot. Lorsque les marchés ont ouvert le lundi suivant la publication de l'essai d'Amodei, les fabricants de puces ont subi le choc : Nvidia a chuté de 3 %, Intel de plus de 5 % et AMD d'environ 6 %, entraînant l'indice des semi-conducteurs de Philadelphie en baisse de près de 6 %.

Ce n'est pas la première fois qu'un essai d'Anthropic secoue l'industrie. Amodei avait déjà averti en janvier que les progrès de l'IA dépassaient la capacité de la société à la contrôler, prédisant que l'AGI (intelligence artificielle générale) pourrait arriver d'ici un à deux ans.

Le dernier essai d'Amodei n'appelait pas à un arrêt permanent. Il a déclenché un compte à rebours tout en avertissant que, sans changement de cap, des essaims d'agents IA voyous pourraient prendre le contrôle d'internet en à peine six mois.

Tout le monde à la table ne partage pas cette urgence. Le président Donald Trump a, séparément, rejeté l'ensemble de cette initiative de ralentissement, qualifiant les avertissements de prise de contrôle par l'IA de « canular » lié à « la gauche radicale » et, dans un deuxième message sur Truth Social, les comparant aux anciennes peurs concernant l'enquête russe et le changement climatique.

Dans un troisième message, Trump s'est présenté comme celui qui « démasque » ce canular, rejetant l'idée que des robots « marcheraient bientôt dans nos villes » et « se débarrasseraient de nous tous ». La liste des invités de Dumfries House est peut-être d'accord sur le risque, mais l'homme qui occupe la Maison Blanche ne l'est apparemment pas.