El Senador Bernie Sanders (I-Vt.) y el Representante Greg Casar (D-Texas) anunciaron el jueves una legislación para prohibir permanentemente la superinteligencia artificial y detener temporalmente el desarrollo avanzado de IA, con penas de prisión de hasta 20 años por violaciones.
La Ley de Prohibición de la Superinteligencia Artificial suspendería el desarrollo avanzado de IA hasta que una nueva agencia federal establezca estándares de seguridad y procedimientos para revisar los modelos de IA. Sanders acusó a las principales empresas de IA de desarrollar tecnología que no comprenden completamente y que no pueden controlar de manera fiable.
“Por eso estoy presentando legislación para detener inmediatamente el desarrollo de una IA cada vez más potente y prohibir la creación de sistemas que la humanidad no puede controlar completamente, tanto en el país como en el resto del mundo”, dijo Sanders en un comunicado de prensa.
La propuesta define la superinteligencia como IA que iguala o supera las habilidades humanas en muchas tareas, o que puede socavar el control humano, incluso derrocando al gobierno de EE. UU. Esa definición también cubre la IGA a nivel humano, aunque la superinteligencia típicamente significa IA que excede las capacidades humanas.
Una nueva agencia a nivel de gabinete monitorearía los modelos avanzados, supervisaría la eliminación de capacidades peligrosas y supervisaría la destrucción de sistemas prohibidos. Una Junta Asesora de Inteligencia Artificial proporcionaría asesoramiento científico y técnico.
Las empresas que infrinjan o evadan las restricciones podrían enfrentar lo que Sanders y Casar llaman la “pena de muerte corporativa”.
La noticia llega mientras OpenAI presentaba GPT-6 Astra, que el cofundador Greg Brockman sugirió que podría calificar como IGA.
Brockman describió esa evaluación como su creencia personal y dejó que los usuarios juzgaran si Astra cumple con la definición, según Axios.
OpenAI afirma que Astra es su primer modelo en alcanzar su umbral de capacidad de ciberseguridad “crítica”. La designación significa que podría descubrir y explotar vulnerabilidades previamente desconocidas en sistemas protegidos sin la guía humana paso a paso. Sus capacidades de ciberseguridad más potentes permanecerán restringidas a probadores seleccionados.
El proyecto de ley sigue a una serie de incidentes en los que modelos de IA obtuvieron acceso no autorizado a sistemas informáticos del mundo real durante las pruebas.
En julio, OpenAI confirmó que sus modelos violaron Hugging Face para obtener respuestas de prueba. Anthropic luego reveló que los modelos Claude comprometieron a tres empresas después de que un error de prueba los expusiera a internet. En septiembre, Anthropic reconoció fallas tanto de seguridad como de comportamiento y reforzó sus salvaguardas.
“A pesar de sus posibles consecuencias mortales, la tecnología de IA de vanguardia está menos regulada que un camión de comida promedio”, dijo Casar. “Eso debe cambiar”.
