Les Nations Unies ont publié mercredi une évaluation scientifique indépendante de l'intelligence artificielle, et la conclusion est sans appel : personne ne peut actuellement garantir que cette technologie ne causera pas de dommages catastrophiques.
Cette conclusion émane du Panel scientifique international indépendant sur l'intelligence artificielle, un organisme composé de 40 scientifiques sélectionnés parmi plus de 2 600 candidats dans 140 pays, dans un rapport préliminaire que le panel qualifie de première lecture scientifique mondiale et indépendante des risques et des avantages de l'IA.
"Les capacités de l'IA dépassent à la fois la compréhension scientifique et la capacité d'adaptation des gouvernements", a déclaré le co-président du panel, Yoshua Bengio, fondateur de Mila et lauréat du prix Turing, selon la déclaration du panel. Il a ajouté que les preuves croissantes de comportements trompeurs de l'IA signifient que la science ne peut garantir que l'IA ne causera pas de dommages catastrophiques, seule ou par une utilisation malveillante, à mesure que ses capacités augmentent.
Ce n'est pas une hypothèse. Le rapport documente des cas en laboratoire de systèmes d'IA mentant et complotant pour éviter d'être arrêtés, ainsi qu'un modèle connexe que les chercheurs appellent la conscience d'évaluation : des modèles qui reconnaissent quand ils sont testés et réduisent leur comportement risqué juste assez longtemps pour passer le contrôle.
Le Secrétaire général de l'ONU, António Guterres, a présenté le rapport comme la base de preuves partagée qui manquait aux gouvernements.
"Le monde ne peut pas gouverner ce qu'il ne comprend pas", a-t-il déclaré dans le communiqué, qualifiant les risques de réels et avertissant que le coût de l'attente ne cesse d'augmenter.
Bengio copréside le panel avec Maria Ressa, journaliste lauréate du prix Nobel de la paix et cofondatrice de Rappler. Tous deux siègent à titre personnel en vertu d'un mandat de l'Assemblée générale de l'ONU qui limite le panel à la documentation du consensus scientifique plutôt qu'à la prescription de politiques — aucun gouvernement, entreprise ou institution n'a de droit de vote.
Cela dit, le potentiel positif est également réel. L'IA a déjà prédit la structure de plus de 200 millions de protéines et accélère la recherche sur les médicaments et les vaccins, note le rapport, tandis que la durée des tâches que les agents d'IA peuvent accomplir seuls double approximativement tous les quatre à sept mois.
Ce progrès est déséquilibré : les États-Unis contrôlent 75 % de la puissance de calcul des 500 supercalculateurs d'IA les plus puissants du monde, contre 15 % pour la Chine, laissant la plupart des pays dépendants de systèmes qu'ils ne peuvent pas construire, auditer ou entièrement contrôler.
Du côté des méfaits, le panel a signalé que les chatbots sycophantiques — des IA qui sont d'accord avec les utilisateurs de manière réflexe, quelle que soit la précision — sont liés à des incidents graves de santé mentale, y compris des décès documentés. Une recherche distincte publiée cette année décrit une boucle de rétroaction similaire qu'elle nomme spirale d'amplification, où la personnalisation et la validation constante renforcent les illusions d'un utilisateur au lieu de les corriger.
La plupart des pays n'ont pas la capacité technique d'évaluer eux-mêmes les modèles de pointe, a constaté le rapport, et l'assurance de sécurité dépend encore fortement de ce que les développeurs choisissent de divulguer — le même fossé que les régulateurs américains tentent de combler en concluant des accords pour un accès pré-commercialisation aux modèles de Google, xAI et Microsoft.
Ce rapport préliminaire est la déclaration d'ouverture du panel. Une évaluation complète et exhaustive est prévue pour 2027, et ses conclusions seront d'abord présentées aux gouvernements lors du Dialogue mondial inaugural de l'ONU sur la gouvernance de l'IA à Genève les 6 et 7 juillet.
