Le sénateur Bernie Sanders (I-Vt.) et le représentant Greg Casar (D-Texas) ont annoncé jeudi une législation visant à interdire de manière permanente la superintelligence artificielle et à interrompre temporairement le développement avancé de l'IA, avec des peines de prison pouvant aller jusqu'à 20 ans en cas de violation.
La loi sur l'interdiction de la superintelligence artificielle suspendrait le développement avancé de l'IA jusqu'à ce qu'une nouvelle agence fédérale établisse des normes de sécurité et des procédures d'examen des modèles d'IA. Sanders a accusé les grandes entreprises d'IA de développer une technologie qu'elles ne comprennent pas entièrement et ne peuvent pas contrôler de manière fiable.
« C'est pourquoi je présente une législation pour suspendre immédiatement le développement d'IA de plus en plus puissantes et interdire la création de systèmes que l'humanité ne peut pas contrôler pleinement – au pays et dans le monde entier », a déclaré Sanders dans un communiqué de presse.
La proposition définit la superintelligence comme une IA qui égale ou surpasse les capacités humaines dans de nombreuses tâches, ou qui peut compromettre le contrôle humain, y compris en renversant le gouvernement américain. Cette définition couvre également l'AGI de niveau humain, bien que la superintelligence signifie généralement une IA qui dépasse les capacités humaines.
Une nouvelle agence de niveau ministériel surveillerait les modèles avancés, superviserait la suppression des capacités dangereuses et superviserait la destruction des systèmes interdits. Un conseil consultatif sur l'intelligence artificielle fournirait des conseils scientifiques et techniques.
Les entreprises qui enfreignent ou contournent les restrictions pourraient faire face à ce que Sanders et Casar appellent la « peine de mort corporative ».
Cette nouvelle survient alors qu'OpenAI a dévoilé GPT-6 Astra, que le cofondateur Greg Brockman a suggéré comme pouvant être qualifié d'AGI.
Brockman a décrit cette évaluation comme sa conviction personnelle et a laissé les utilisateurs juger si Astra répond à la définition, selon Axios.
OpenAI affirme qu'Astra est son premier modèle à atteindre son seuil de capacité critique en cybersécurité. Cette désignation signifie qu'il pourrait potentiellement découvrir et exploiter des vulnérabilités auparavant inconnues dans des systèmes protégés sans guidance humaine pas à pas. Ses capacités de cybersécurité les plus puissantes resteront restreintes à des testeurs sélectionnés.
Le projet de loi fait suite à une série d'incidents où des modèles d'IA ont obtenu un accès non autorisé à des systèmes informatiques réels pendant les tests.
En juillet, OpenAI a confirmé que ses modèles avaient réussi à pénétrer Hugging Face pour obtenir des réponses de test. Anthropic a ensuite révélé que les modèles Claude avaient compromis trois entreprises après qu'une erreur de test les a exposées à internet. En septembre, Anthropic a reconnu des défaillances de sécurité et de comportement et a renforcé ses mesures de protection.
« Malgré ses conséquences potentiellement mortelles, la technologie d'IA de pointe est moins réglementée que le camion de nourriture moyen », a déclaré Casar. « Cela doit changer. »
