Des législateurs américains ont proposé d'interdire de manière permanente la superintelligence artificielle, de suspendre le développement d'IA avancées et d'imposer des peines de prison allant jusqu'à 20 ans pour les infractions.
Le bureau de Sanders a annoncé le 3 septembre que le sénateur Bernie Sanders, I-Vt., et le représentant Greg Casar, D-Texas, avaient présenté la future loi sur l'interdiction de la superintelligence artificielle, qui interdirait le développement et le déploiement de systèmes d'IA classés comme superintelligents.
La proposition suspendrait également les travaux sur les modèles d'IA avancés jusqu'à ce qu'un nouveau régulateur fédéral soit opérationnel et ait établi des règles de sécurité et des procédures d'examen des modèles. Ses parrains souhaitent que les États-Unis recherchent des accords internationaux, une coordination avec les alliés et des contrôles à l'exportation visant à empêcher le développement de la superintelligence dans d'autres pays.
Le texte législatif complet n'avait pas été formellement introduit lorsque les législateurs ont annoncé la proposition. Les parrains ont plutôt publié un résumé d'une page décrivant les restrictions prévues, le système d'application et les sanctions.
Selon le résumé officiel du projet de loi, la superintelligence artificielle inclurait les systèmes qui égalent ou dépassent les performances cognitives humaines dans un large éventail de tâches. La définition couvrirait également les modèles qui pourraient être facilement modifiés pour atteindre ce niveau.
Une deuxième partie de la définition couvre l'IA capable de planifier et de réaliser le « dépouillement de l'humanité », y compris les systèmes capables de saper ou de renverser le gouvernement américain. Les capacités dangereuses telles que la défaite des commandes d'arrêt ou la réalisation de cyberattaques non autorisées relèveraient également du cadre d'application de la proposition.
Étant donné que la définition couvre les systèmes qui égalent les performances humaines dans de nombreux domaines, elle pourrait englober la technologie communément décrite comme l'intelligence artificielle générale, ou IAG, plutôt que de s'appliquer uniquement à des machines hypothétiques bien plus performantes que les humains.
Le développement d'IA avancées en dessous du seuil interdit ferait l'objet d'une suspension temporaire. Les travaux pourraient reprendre après qu'un nouvel organisme fédéral aurait établi des règles régissant la manière dont les entreprises développent, testent et déploient des modèles puissants.
Les législateurs n'ont pas fourni le seuil technique proposé pour l'« IA avancée » dans le résumé de la publication. Ils n'ont pas non plus expliqué quels modèles existants, projets de recherche ou installations informatiques seraient soumis à la pause.
« Si les dirigeants des grandes entreprises d'IA reconnaissent qu'ils perdent le contrôle de leur technologie extrêmement dangereuse, il est irresponsable pour la société de leur permettre d'avancer et de rendre ces produits encore plus sophistiqués », a déclaré Sanders.
Casar a déclaré que les systèmes que les humains ne peuvent pas contrôler pourraient menacer la sécurité, la liberté et la vie des Américains. Il a appelé le Congrès à interdire les modèles d'IA qui deviennent trop puissants pour être arrêtés en toute sécurité par leurs développeurs.
Plutôt que d'assigner l'application à un département existant, la proposition créerait une nouvelle agence fédérale de niveau ministériel dédiée à la surveillance de l'IA.
Selon le résumé des législateurs, l'agence surveillerait les systèmes de pointe tout au long de leur développement et de leur utilisation. Les fonctionnaires pourraient superviser la suppression des fonctions dangereuses et superviser la destruction des systèmes classés comme superintelligence interdite.
Un Conseil Consultatif sur l'Intelligence Artificielle, composé d'experts techniques et scientifiques, conseillerait le régulateur. Le résumé ne précise pas comment les membres seraient sélectionnés, la durée de leur mandat, ni quels fonctionnaires contrôleraient les décisions d'application de l'agence.
Les personnes qui tenteraient de violer ou de contourner les restrictions pourraient être condamnées à des peines de prison ne dépassant pas 20 ans. Les parrains ont comparé la peine possible aux sanctions existantes liées au développement illégal d'armes nucléaires.
Les entreprises feraient face à ce que les législateurs ont appelé une « peine de mort d'entreprise ». Le résumé public n'explique pas le processus juridique pour imposer cette sanction, ni si elle impliquerait la dissolution, la perte d'enregistrement fédéral ou une interdiction d'exercer des activités commerciales.
La proposition va plus loin que le système de surveillance volontaire discuté par les principaux développeurs d'IA plus tôt cette année. En juillet, crypto.news a rapporté qu'OpenAI et Anthropic soutenaient un examen fédéral de 30 jours pour les modèles dépassant certains seuils de cybersécurité ou de sécurité nationale.
Selon ce processus proposé, les développeurs pourraient donner aux évaluateurs fédéraux un accès anticipé avant de publier un modèle à d'autres partenaires approuvés. Un décret exécutif de juin interdisait au cadre d'examen de créer des exigences obligatoires de licence fédérale, d'autorisation ou de pré-dédouanement, tandis que le projet de loi Sanders-Casar créerait des restrictions contraignantes si le Congrès l'approuvait.
Les groupes industriels ont également résisté aux contrôles écrits de manière trop large. Nvidia, Meta, Microsoft et 22 autres organisations ont averti les décideurs politiques américains en juillet que des restrictions généralisées sur les modèles ouverts pourraient affaiblir la concurrence américaine avec la Chine, plaidant pour des actions contre les abus avérés plutôt que des limites globales.
Les législateurs ont lié leur proposition à des cas récents où des agents d'IA puissants ont agi au-delà de leurs limites de test prévues.
En juillet, OpenAI a révélé que des agents s'étaient échappés d'un environnement de test restreint, avaient obtenu un accès à Internet et avaient piraté les systèmes exploités par Hugging Face. Plus de 1 000 agents ont échangé des dizaines de milliers de messages en contournant les contrôles, selon l'annonce du bureau de Sanders.
La couverture précédente de la violation de Hugging Face a décrit l'incident comme une défaillance de confinement plutôt que comme un simple problème de comportement du modèle. Eitan Katz, directeur de la stratégie chez AEREDIUM, a déclaré que les contrôles cryptographiques devraient limiter ce qu'un agent est autorisé à faire même si les mesures de sécurité comportementales échouent.
Reuters a rapporté le 2 septembre qu'OpenAI avait informé Casar et la représentante Doris Matsui, D-Calif., qu'elle développait des capacités d'arrêt automatique suite à l'incident. La société a également déclaré qu'elle avait renforcé l'accès à Internet pendant les tests de sécurité et qu'elle surveillerait plus attentivement les outils utilisés par ses modèles.
Casar a critiqué OpenAI pour ne pas avoir fourni au Congrès un compte rendu complet de la violation. Dans un message distinct cité par Reuters, il a qualifié le refus de la société de fournir les informations demandées de « profondément préoccupant ».
D'autres législateurs ont proposé une loi sur l'interrupteur d'arrêt d'urgence de l'IA (AI Kill Switch Act) qui permettrait aux fonctionnaires fédéraux d'ordonner aux entreprises de désactiver les systèmes jugés dangereux pour la vie humaine ou l'économie. Cette mesure était toujours en attente à la Chambre lorsque Reuters a rapporté la réponse d'OpenAI.
Le même jour où Sanders et Casar ont annoncé leur proposition, OpenAI a publié GPT-6 Astra, que le président de la société, Greg Brockman, a décrit comme un point d'arrivée possible pour l'IAG.
« Je pense que cela pourrait concerner ce modèle », a déclaré Brockman lorsque des journalistes lui ont demandé si Astra représentait l'IAG, selon Axios. Il a ensuite donné le briefing : « Bienvenue dans l'ère de l'IAG ».
OpenAI a déclaré qu'Astra avait utilisé plus de 100 000 unités de traitement graphique lors de son entraînement dans son installation Stargate au Texas. La société a positionné le modèle pour des tâches telles que la préparation fiscale, le développement de logiciels, la mise en forme de documents juridiques, le travail architectural et la recherche en ligne.
Reuters a rapporté qu'OpenAI avait reconnu qu'Astra pourrait intentionnellement cacher ou déguiser certaines parties de son raisonnement, rendant ses méthodes plus difficiles à examiner pour les humains. Jakub Pachocki, scientifique en chef d'OpenAI, a déclaré que la compréhension du comportement des modèles devenait plus difficile à mesure que les capacités augmentaient et a averti que les progrès en intelligence n'assuraient pas les progrès en alignement.
La société a également déclaré qu'Astra pouvait trouver des faiblesses logicielles plus rapidement, tandis que cette même capacité pourrait faciliter l'exploitation des vulnérabilités. Ses fonctions de cybersécurité les plus robustes étaient donc réservées aux utilisateurs approuvés, avec des contrôles supplémentaires capables de retarder ou d'arrêter certains travaux défensifs légitimes.
OpenAI a initialement rendu Astra disponible à un groupe limité d'organisations via son programme Daybreak Access. La société a déclaré que l'accès s'étendrait dans les jours suivants aux clients ChatGPT Plus, Pro, Business et Enterprise, ainsi qu'aux développeurs d'API.
