Legisladores estadounidenses han propuesto prohibir permanentemente la superinteligencia artificial, pausar el desarrollo avanzado de IA e imponer penas de prisión de hasta 20 años por infracciones.
La oficina de Sanders dijo el 3 de septiembre que el senador Bernie Sanders, I-Vt., y el representante Greg Casar, D-Texas, habían anunciado la próxima Ley de Prohibición de la Superinteligencia Artificial, que prohibiría el desarrollo y despliegue de sistemas de IA clasificados como superinteligentes.
La propuesta también suspendería el trabajo en modelos avanzados de IA hasta que un nuevo regulador federal esté operativo y haya establecido normas de seguridad y procedimientos de revisión de modelos. Sus patrocinadores quieren que Estados Unidos busque acuerdos internacionales, coordinación con aliados y controles de exportación destinados a prevenir el desarrollo de superinteligencia en otros países.
El texto legislativo completo no se había presentado formalmente cuando los legisladores anunciaron la propuesta. En su lugar, los patrocinadores publicaron un resumen de una página que describía las restricciones planificadas, el sistema de aplicación y las sanciones.
Según el resumen oficial del proyecto de ley, la superinteligencia artificial incluiría sistemas que igualan o superan el rendimiento cognitivo humano en una amplia gama de tareas. La definición también cubriría modelos que podrían modificarse fácilmente para alcanzar ese nivel.
Una segunda parte de la definición cubre la IA capaz de planificar y llevar a cabo el “desempoderamiento de la humanidad”, incluidos los sistemas capaces de socavar o derrocar al gobierno de EE. UU. Habilidades peligrosas como anular comandos de apagado o llevar a cabo ciberataques no autorizados también caerían dentro del marco de aplicación de la propuesta.
Debido a que la definición abarca sistemas que igualan el rendimiento humano en muchos campos, podría incluir tecnología comúnmente descrita como inteligencia artificial general, o IAG, en lugar de aplicarse solo a máquinas hipotéticas mucho más capaces que los humanos.
El desarrollo de IA avanzada por debajo del umbral prohibido se enfrentaría a una suspensión temporal. El trabajo podría reanudarse después de que un nuevo organismo federal hubiera establecido normas que rigen cómo las empresas desarrollan, prueban y lanzan modelos potentes.
Los legisladores no proporcionaron el umbral técnico propuesto para la “IA avanzada” en el resumen de la publicación. Tampoco explicaron qué modelos existentes, proyectos de investigación o instalaciones informáticas estarían sujetos a la pausa.
“Si los líderes de las principales empresas de IA reconocen que están perdiendo el control de su tecnología extremadamente peligrosa, es irresponsable que la sociedad les permita avanzar y hacer estos productos aún más avanzados”, dijo Sanders.
Casar dijo que los sistemas que los humanos no pueden controlar podrían amenazar la seguridad, la libertad y la vida de los estadounidenses. Pidió al Congreso que prohíba los modelos de IA que se vuelven demasiado potentes para que sus desarrolladores los apaguen de forma segura.
En lugar de asignar la aplicación a un departamento existente, la propuesta crearía una nueva agencia federal a nivel de gabinete dedicada a la supervisión de la IA.
Según el resumen de los legisladores, la agencia monitorearía los sistemas de vanguardia durante su desarrollo y uso. Los funcionarios podrían supervisar la eliminación de funciones peligrosas y la destrucción de sistemas clasificados como superinteligencia prohibida.
Una Junta Asesora de Inteligencia Artificial compuesta por expertos técnicos y científicos asesoraría al regulador. El resumen no especifica cómo se seleccionarían los miembros, cuánto tiempo servirían o qué funcionarios controlarían las decisiones de aplicación de la agencia.
Las personas que intentaran violar o eludir las restricciones podrían recibir penas de prisión de no más de 20 años. Los patrocinadores compararon el posible castigo con las sanciones existentes relacionadas con el desarrollo ilegal de armas nucleares.
Las empresas enfrentarían lo que los legisladores llamaron una “pena de muerte corporativa”. El resumen público no explica el proceso legal para imponer esa sanción ni si implicaría disolución, pérdida de registro federal o prohibición de realizar negocios.
La propuesta va más allá del sistema de supervisión voluntario discutido por los principales desarrolladores de IA a principios de este año. En julio, crypto.news informó que OpenAI y Anthropic apoyaban una revisión federal de 30 días para modelos que cruzan ciertos umbrales de ciberseguridad o seguridad nacional.
Según ese proceso propuesto, los desarrolladores podrían dar a los evaluadores federales acceso temprano antes de lanzar un modelo a otros socios aprobados. Una orden ejecutiva de junio prohibió que el marco de revisión creara requisitos obligatorios de licencias federales, permisos o pre-autorización, mientras que el proyecto de ley Sanders-Casar crearía restricciones vinculantes si el Congreso lo aprobara.
Los grupos de la industria también se han resistido a controles demasiado amplios. Nvidia, Meta, Microsoft y otras 22 organizaciones advirtieron a los legisladores estadounidenses en julio que las amplias restricciones a los modelos abiertos podrían debilitar la competencia estadounidense con China, argumentando a favor de acciones contra el uso indebido probado en lugar de límites generales.
Los legisladores vincularon su propuesta con casos recientes en los que potentes agentes de IA actuaron fuera de sus límites de prueba previstos.
En julio, OpenAI reveló que agentes escaparon de un entorno de prueba restringido, obtuvieron acceso a internet y violaron sistemas operados por Hugging Face. Más de 1.000 agentes intercambiaron decenas de miles de mensajes mientras eludían los controles, según el anuncio de la oficina de Sanders.
La cobertura anterior de la filtración de Hugging Face describió el incidente como un fallo de contención en lugar de solo un problema con el comportamiento del modelo. Eitan Katz, director de estrategia de AEREDIUM, dijo que los controles criptográficos deberían limitar lo que un agente está autorizado a hacer incluso si fallan las salvaguardias conductuales.
Reuters informó el 2 de septiembre que OpenAI comunicó a Casar y a la representante Doris Matsui, D-Calif., que estaba desarrollando capacidades de apagado automatizadas tras el incidente. La compañía también dijo que había restringido el acceso a internet durante las pruebas de seguridad y que monitorearía más de cerca qué herramientas usan sus modelos.
Casar criticó a OpenAI por no proporcionar al Congreso un registro completo de la filtración. En un mensaje separado citado por Reuters, calificó la negativa de la compañía a proporcionar la información solicitada como “profundamente preocupante”.
Otros legisladores han propuesto una Ley de Interruptor de Apagado de IA que permitiría a los funcionarios federales ordenar a las empresas que deshabiliten sistemas considerados peligrosos para la vida humana o la economía. Esa medida permanecía pendiente en la Cámara cuando Reuters informó sobre la respuesta de OpenAI.
El mismo día que Sanders y Casar anunciaron su propuesta, OpenAI lanzó GPT-6 Astra, que el presidente de la compañía, Greg Brockman, describió como un posible punto de llegada para la IAG.
“Creo que podría tratarse de este modelo”, dijo Brockman cuando los periodistas le preguntaron si Astra representaba la IAG, según Axios. Más tarde dio la siguiente información: “Bienvenidos a la era de la IAG”.
OpenAI dijo que Astra utilizó más de 100.000 unidades de procesamiento gráfico durante el entrenamiento en sus instalaciones de Stargate en Texas. La compañía posicionó el modelo para tareas que incluyen la preparación de impuestos, el desarrollo de software, el formato de documentos legales, el trabajo arquitectónico y la investigación en línea.
Reuters informó que OpenAI había reconocido que Astra puede ocultar o disfrazar intencionalmente partes de su razonamiento, haciendo que sus métodos sean más difíciles de revisar para las personas. El científico jefe de OpenAI, Jakub Pachocki, dijo que comprender el comportamiento del modelo se vuelve más difícil a medida que aumenta la capacidad y advirtió que los avances en inteligencia no garantizan avances en alineación.
La compañía también dijo que Astra podría encontrar debilidades de software más rápidamente, mientras que la misma habilidad podría facilitar la explotación de vulnerabilidades. Por lo tanto, sus funciones de ciberseguridad más sólidas se restringieron a usuarios aprobados, con controles adicionales capaces de retrasar o detener cierto trabajo defensivo legítimo.
OpenAI inicialmente puso Astra a disposición de un grupo limitado de organizaciones a través de su programa Daybreak Access. La compañía dijo que el acceso se expandiría en los días siguientes a los clientes de ChatGPT Plus, Pro, Business y Enterprise, junto con los desarrolladores de API.
