El Consejo de Seguridad de la ONU pasará la tarde del miércoles escuchando a las personas que construyen la tecnología que más le preocupa.
El CEO de OpenAI, Sam Altman; el CEO de Anthropic, Dario Amodei; el investigador de seguridad en IA, Yoshua Bengio; y el CEO de Hugging Face, Clément Delangue, tienen previsto informar al consejo de 15 miembros —el órgano de la ONU con poder para autorizar sanciones y acciones militares— sobre los riesgos planteados por la inteligencia artificial.
DeepSeek también está invitada. A la startup china que borró aproximadamente $600 mil millones de la capitalización de mercado de Nvidia cuando lanzó un modelo de bajo costo en enero de 2025 se le ha pedido que haga una declaración, junto con otra firma china, Moonshot, desarrolladora de los modelos Kimi.
Francia organizó la sesión del miércoles y este mes ostenta la presidencia rotatoria del consejo. El ministro de Asuntos Exteriores, Jean-Noël Barrot, la presidirá, y, según se informa, la nota conceptual detrás de la reunión se centra en sistemas de IA que podrían escapar al control humano.
También se espera que la misma sesión aborde una IA que eventualmente podría ejecutar ciberataques, influir en elecciones o diseñar armas sin una persona en el circuito, razón por la cual un consejo concebido para guerras y sanciones escuchará esta semana a CEOs tecnológicos en lugar de generales.
Amodei participará de forma remota en lugar de asistir en persona. El 12 de septiembre publicó un ensayo titulado "We Must Pace the Frontier", en el que argumentó que la industria debería desacelerar deliberadamente la velocidad a la que construye modelos frontier más capaces —los sistemas de IA más grandes y avanzados que cualquier laboratorio haya lanzado. Dijo que Anthropic daría a evaluadores externos acceso permanente, a nivel de personal, para verificar sus promesas de seguridad. Sam Altman y Elon Musk dijeron ambos, en cuestión de horas, que estaban de acuerdo.
Amodei calificó a China como "el país autocrático con, por mucho, las capacidades de IA más avanzadas" y sostuvo que EE.UU. debería seguir restringiendo las exportaciones de chips avanzados a Beijing, incluso mientras pide a Beijing cooperar en reglas globales de seguridad. El Ministerio de Asuntos Exteriores de China calificó el ensayo de contraproducente, y los medios estatales lo tildaron de un "manual de la Guerra Fría" destinado a contener a China.
Mientras tanto, el presidente Donald Trump no quiere saber nada del impulso por desacelerar. Después de que se publicara el ensayo de Amodei, el presidente calificó las advertencias sobre una toma de control por parte de la IA como un "engaño" vinculado a la "izquierda radical" y acusó directamente a Amodei de irregularidades sin ofrecer pruebas.
Días después, el rey Carlos recibió a ejecutivos de Anthropic, OpenAI, Nvidia y Google DeepMind en su residencia de Escocia para una cumbre sobre seguridad de la IA que generó conversaciones, pero ningún acuerdo conocido públicamente.
Tampoco es probable que la sesión del miércoles produzca un acuerdo vinculante. Se celebrará dos días antes de que Trump se reúna con el presidente chino Xi Jinping en Washington el 24 de septiembre, una cumbre en la que, según informes, la seguridad de la IA está en la agenda junto con el comercio.
