Des experts en sécurité des États-Unis et de Chine ont proposé des règles interdisant à l'intelligence artificielle de lancer de manière indépendante des cyberattaques contre les systèmes de commandement nucléaire ou de décider de l'utilisation d'armes nucléaires.
Un rapport récent de Brookings et de l'Université Fudan basée à Shanghai exhorte les États-Unis et la Chine à étendre leur engagement en faveur du contrôle humain des armes nucléaires à d'autres utilisations militaires de l'IA, y compris les cyberattaques contre les systèmes de commandement nucléaire.
"Les présidents Donald Trump et Xi Jinping peuvent montrer la voie dans la gestion de ces dangers en convenant que seuls les humains, et non l'IA, devraient prendre la décision d'initier une cyberattaque contre les systèmes de commandement, de contrôle et de communication nucléaires (NC3) ou les infrastructures critiques de l'autre", ont écrit les chercheurs.
Les systèmes NC3 aident les gouvernements à détecter les menaces, à décider d'utiliser ou non des armes nucléaires et à transmettre les ordres de lancement, mais des défaillances à n'importe quel stade pourraient perturber les communications, mal interpréter une attaque, encourager une première frappe ou déclencher un lancement accidentel ou non autorisé.
"L'extension du principe appliqué aux armes nucléaires — selon lequel les attaques ayant des effets stratégiques devraient exprimer une intention humaine et doivent être soumises à la responsabilité humaine — ne nécessite pas que Washington et Pékin partagent d'autres principes de cybersécurité ou de protection des infrastructures", ont écrit les chercheurs.
L'accord proposé exigerait des deux pays qu'ils réduisent le risque que le hasard, l'erreur humaine, une IA imprévisible ou des acteurs non autorisés puissent déclencher des attaques aux conséquences stratégiques.
L'appel à des garanties de type nucléaire fait partie d'un débat croissant sur la manière de ralentir le développement de l'IA et de maintenir des systèmes de plus en plus performants sous contrôle humain. La préoccupation est particulièrement aiguë dans le domaine militaire, où des décisions automatisées prises en quelques millisecondes pourraient transformer une fausse alerte ou une cyberattaque en crise nucléaire.
Cette préoccupation a été soulignée en février lorsque des modèles d'OpenAI, Google et Anthropic ont utilisé des armes nucléaires dans 95 % des scénarios de jeux de guerre testés, bien que les experts aient averti que la simulation aurait pu encourager l'escalade.
Le même mois, Anthropic a refusé les demandes du Pentagone de supprimer les restrictions de Claude sur la surveillance de masse et les armes entièrement autonomes. Trump a ordonné aux agences fédérales de cesser d'utiliser la technologie de l'entreprise, mais un juge fédéral a statué le 28 août que l'administration avait illégalement exercé des représailles contre Anthropic.
Les appels à la retenue se sont depuis répandus dans l'industrie. Plus tôt ce mois-ci, Dario Amodei, PDG d'Anthropic, a exhorté les développeurs à ralentir les gains de capacités, obtenant le soutien de Sam Altman, PDG d'OpenAI, et d'Elon Musk, propriétaire de xAI, tandis qu'OpenAI a demandé au Congrès si les entreprises pouvaient coordonner un ralentissement sans violer la loi antitrust.
En l'absence de ralentissement contraignant, les auteurs de Brookings proposent une règle plus stricte : seuls les humains devraient être autorisés à autoriser les attaques contre les systèmes de commandement nucléaire ou l'utilisation d'armes nucléaires.
"La gouvernance de l'IA militaire n'est pas une négociation qui peut attendre — c'est une course contre la montre", ont-ils écrit.
BTC