Los gobiernos corren el riesgo de repetir los errores cometidos al comienzo de la era nuclear si esperan para crear leyes que rijan la inteligencia artificial, advirtió la Secretaria de Asuntos Exteriores del Reino Unido, Yvette Cooper.

En un artículo publicado el lunes, Cooper afirmó que la IA ofrece avances significativos, pero también presenta nuevos riesgos a medida que la tecnología se vuelve más potente y ampliamente disponible.

“El mes pasado, en Shenzhen, China, vi la extraordinaria promesa de la IA y la robótica utilizadas para la atención médica que salva vidas”, escribió Cooper. “Pero las mismas tecnologías también están reconfigurando el futuro de la guerra, el crimen y la cohesión social de maneras alarmantes.”

Cooper dijo que la gestión de los riesgos que plantea la IA podría convertirse en “el mayor desafío de seguridad de la próxima década” y argumentó que los gobiernos necesitan acuerdos internacionales sobre tecnología de vanguardia antes de que una crisis obligue a la acción.

Ella comparó la carrera actual para desarrollar sistemas de IA con la carrera armamentista nuclear temprana, afirmando que los acuerdos de seguridad globales surgieron solo después de que los países presenciaron la devastación causada por las armas atómicas.

“En materia nuclear, el acuerdo internacional llegó solo después de que el mundo viera el aterrador poder de la nueva tecnología en Hiroshima”, escribió Cooper. “No podemos permitirnos esperar un equivalente de Hiroshima en IA antes de actuar.”

Cooper instó a Gran Bretaña a utilizar su influencia diplomática para reunir a Estados Unidos, China y otras potencias importantes en IA para establecer principios y estándares de seguridad compartidos, señalando la Cumbre de Seguridad de IA de 2023 en Bletchley Park, donde líderes globales de 29 países y la Unión Europea se reunieron para discutir el riesgo emergente de la IA. Cooper calificó esto como un ejemplo de la capacidad del Reino Unido para “movilizar al mundo en torno a la seguridad de la IA”.

La advertencia de Cooper llega tras meses de creciente preocupación sobre cómo los gobiernos deberían supervisar los sistemas de IA cada vez más potentes.

En mayo, el Instituto de Seguridad de IA del Reino Unido advirtió sobre los rápidos avances en las capacidades de ciberseguridad de la IA después de que GPT-5.5 de OpenAI se convirtiera en el segundo modelo en completar un ciberataque simulado sin asistencia humana, siguiendo al Claude Mythos Preview de Anthropic.

Días después, el Fondo Monetario Internacional advirtió que la IA podría “amplificar” los ciberataques contra el sistema financiero global al reducir la habilidad necesaria para explotar vulnerabilidades, instando a los responsables de la formulación de políticas a tratar la ciberseguridad como un problema de estabilidad financiera en lugar de un problema puramente técnico.

En junio, el presidente Donald Trump firmó una orden ejecutiva creando un marco voluntario para revisar modelos avanzados de IA antes de su lanzamiento, expandiendo los programas de ciberseguridad de IA y ordenando a las agencias que evaluaran los riesgos potenciales para la seguridad nacional de los modelos de IA de vanguardia.

Ese mismo mes, también surgieron llamamientos a regulaciones más estrictas desde dentro de la industria de la IA, con el CEO de Anthropic, Dario Amodei, argumentando que los requisitos de transparencia ya no son suficientes y pidiendo pruebas obligatorias de terceros para los modelos de vanguardia. Esta demanda fue seguida por la orden del gobierno de EE. UU. a Anthropic de restringir el acceso a Claude Fable 5 y Mythos 5 por preocupaciones de seguridad nacional antes de levantar la orden en julio.