Expertos en seguridad de Estados Unidos y China han propuesto reglas que prohibirían a la inteligencia artificial lanzar ciberataques de forma independiente contra sistemas de mando nuclear o decidir el uso de armas nucleares.
Un informe reciente de Brookings y la Universidad de Fudan, con sede en Shanghái, insta a EE. UU. y China a extender su compromiso con el control humano de las armas nucleares a otros usos militares de la IA, incluidos los ciberataques a los sistemas de mando nuclear.
“Los presidentes Donald Trump y Xi Jinping pueden liderar la gestión de estos peligros al acordar que solo los humanos, no la IA, deben tomar la decisión de iniciar un ciberataque contra los sistemas de mando, control y comunicaciones nucleares (NC3) o la infraestructura crítica del otro”, escribieron los investigadores.
Los sistemas NC3 ayudan a los gobiernos a detectar amenazas, decidir si usar armas nucleares y transmitir órdenes de lanzamiento, pero las fallas en cualquier etapa podrían interrumpir las comunicaciones, interpretar erróneamente un ataque, fomentar un primer ataque o desencadenar un lanzamiento accidental o no autorizado.
“Extender el principio aplicado a las armas nucleares —que los ataques con efectos estratégicos deben expresar la intención humana y deben estar sujetos a la rendición de cuentas humana— no requiere que Washington y Beijing compartan otros principios de ciberseguridad o protección de infraestructura”, escribieron los investigadores.
El acuerdo propuesto requeriría que ambos países redujeran el riesgo de que el azar, el error humano, la IA impredecible o actores no autorizados pudieran desencadenar ataques con consecuencias estratégicas.
El llamado a salvaguardias al estilo nuclear es parte de un creciente debate sobre cómo frenar el desarrollo de la IA y mantener los sistemas cada vez más capaces bajo control humano. La preocupación es especialmente aguda en el ámbito militar, donde las decisiones automatizadas tomadas en milisegundos podrían convertir una falsa alarma o un ciberataque en una crisis nuclear.
Esa preocupación se acentuó en febrero cuando modelos de OpenAI, Google y Anthropic utilizaron armas nucleares en el 95% de los escenarios de juegos de guerra probados, aunque los expertos advirtieron que la simulación pudo haber fomentado la escalada.
Ese mismo mes, Anthropic se negó a las demandas del Pentágono de eliminar las restricciones de Claude sobre la vigilancia masiva y las armas totalmente autónomas. Trump ordenó a las agencias federales que dejaran de usar la tecnología de la compañía, pero un juez federal dictaminó el 28 de agosto que la administración había tomado represalias ilegalmente contra Anthropic.
Los llamamientos a la moderación se han extendido desde entonces por toda la industria. A principios de este mes, el CEO de Anthropic, Dario Amodei, instó a los desarrolladores a ralentizar los avances de capacidad, obteniendo el apoyo del CEO de OpenAI, Sam Altman, y del propietario de xAI, Elon Musk, mientras OpenAI preguntó al Congreso si las empresas podrían coordinar una ralentización sin violar la ley antimonopolio.
Sin una ralentización vinculante en vigor, los autores de Brookings proponen una regla más estricta: solo los humanos deben estar autorizados a aprobar ataques a los sistemas de mando nuclear o el uso de armas nucleares.
“La gobernanza de la IA militar no es una negociación que pueda permitirse esperar; es una carrera contra el tiempo”, escribieron.
BTC