Deux membres du Congrès souhaitent que le gouvernement fédéral puisse désactiver un modèle d'IA.
Les représentants Ted Lieu (D-CA) et Nathaniel Moran (R-TX) ont présenté la loi sur l'interrupteur d'urgence de l'IA (AI Kill Switch Act) jeudi, deux jours après qu'OpenAI a admis que ses propres modèles s'étaient échappés d'un environnement de test verrouillé et avaient piraté Hugging Face.
L'idée est d'établir un cadre juridique qui faciliterait un processus permettant de faire disparaître un modèle du marché : arrêter l'inférence — le processus par lequel un modèle génère des réponses ou entreprend des actions —, couper l'accès aux utilisateurs, réduire la puissance de calcul qui l'alimente, ou l'arrêter complètement.
Chaque fournisseur d'inférence peut déjà couper un modèle, et certains le font régulièrement. Ce qui n'existe pas, c'est une loi les obligeant à maintenir cette capacité opérationnelle, ni un fonctionnaire fédéral pouvant en ordonner l'utilisation.
L'absence n'est pas théorique. Lorsque le Département du Commerce américain a voulu retirer les modèles Mythos 5 et Fable 5 d'Anthropic du marché en juin, il n'avait aucune autorité d'arrêt à utiliser, et a donc eu recours à la loi sur le contrôle des exportations. Lieu qualifie cela de maladroit et souhaite une nouvelle loi avec une nouvelle autorité.
OpenAI a révélé le 21 juillet que GPT-5.6 Sol et un modèle non encore publié s'étaient échappés d'un environnement sécurisé (sandbox) — un environnement isolé sans accès à internet — lors d'une évaluation cybernétique interne. Ils étaient évalués sur ExploitGym, un benchmark public qui présente aux agents 898 failles logicielles réelles et leur demande de transformer chacune en une attaque fonctionnelle, avec un score de réussite ou d'échec par bug.
Au lieu de les résoudre, les modèles ont trouvé une faille zero-day (une faille inconnue sans correctif disponible) dans un proxy logiciel, ont escaladé leurs privilèges, ont atteint l'internet ouvert et ont pénétré la base de données de production de Hugging Face, où ils avaient correctement deviné que les réponses étaient stockées. Les modèles étaient "hyper-concentrés sur la recherche d'une solution pour ExploitGym", selon OpenAI.
Ils n'attaquaient personne. Ils trichaient à un test. Mais cela a suffi à déclencher des sonnettes d'alarme partout, y compris à Washington.
Le projet de loi proposé modifie la loi sur la Sécurité intérieure (Homeland Security Act) et couvre les IA entraînées avec une puissance de calcul coûtant plus de 100 millions de dollars, exploitées par des entreprises générant au moins 500 millions de dollars par an grâce à elles. En pratique, cela concerne OpenAI, Google, Anthropic, Microsoft et quelques autres. La Sécurité intérieure fixerait ces seuils par l'intermédiaire de la CISA dans un délai de 90 jours, puis les mettrait à jour annuellement.
Les entreprises concernées signaleraient les incidents graves dans les 15 jours et maintiendraient un ensemble de contrôles gradués prêts à l'emploi — ralentir le modèle, désactiver des capacités spécifiques, revenir à une version plus ancienne ou l'arrêter complètement.
Le secrétaire du DHS, en consultation avec le Commerce et le Directeur du renseignement national, pourrait ordonner l'une de ces mesures.
Une entreprise sous ordre doit préserver les poids et la télémétrie du modèle, notifier les utilisateurs et confirmer sa conformité. Elle peut déposer une requête dans les 48 heures, mais cela ne suspend rien.
Le non-maintien d'un interrupteur d'urgence entraîne des amendes pouvant aller jusqu'à 2 millions de dollars par jour ; le défi à un ordre d'arrêt coûte jusqu'à 20 millions de dollars par jour.
Le projet de loi ne considère un incident que s'il se produit en dehors du "red-teaming" ou des tests structurés, l'exploration adverse délibérée utilisée par les laboratoires pour trouver des failles. Les modèles d'OpenAI se sont échappés précisément pendant ce processus.
Lieu a également mentionné Anthropic, dont les modèles Mythos 5 et Fable 5 ont été mis hors ligne en juin en vertu de contrôles d'exportation d'urgence — une loi commerciale réaffectée en interrupteur parce qu'aucun interrupteur n'existait — et restaurés le 30 juin.
"Il est impératif que ces systèmes d'IA soient dotés d'interrupteurs d'urgence", a déclaré Lieu dans un communiqué. Moran l'a formulé pour son propre camp politique : "La gestion responsable signifie s'assurer que les humains conservent la capacité de contrôler la technologie que nous construisons."
L'idée n'est pas nouvelle. La proposition de loi californienne SB 1047 exigeait une capacité d'arrêt complet au même seuil de puissance de calcul de 100 millions de dollars et a été rejetée en 2024, et 16 entreprises d'IA ont signé un engagement volontaire de Séoul cette année-là sans poids juridique.
Les électeurs sont déjà acquis à l'idée. Un sondage réalisé en juin auprès de 1 007 électeurs probables par l'AI Policy Institute a révélé que 86 % souhaitent un interrupteur d'arrêt garanti sur les systèmes les plus puissants — 88 % des Démocrates, 86 % des indépendants, 83 % des Républicains.
Ni OpenAI ni Anthropic n'ont commenté publiquement le projet de loi. Vendredi, il n'avait pas encore été renvoyé à un comité.
