El Secretario General de la ONU, António Guterres, inauguró el lunes en Ginebra el primer Diálogo Global sobre la Gobernanza de la IA, diciendo a 193 naciones que la IA ya está superando a las instituciones destinadas a gobernarla, y que la humanidad está llevando a cabo un experimento consigo misma "sin un plan y sin consentimiento".
"La inteligencia artificial avanza a una velocidad vertiginosa", dijo Guterres al inicio de su discurso de apertura. "Una tecnología que puede remodelar economías, transformar el mundo laboral, influir en las elecciones e inclinar la balanza de la seguridad se está desplegando más rápido de lo que cualquiera, incluidas las personas que la construyen, puede seguir el ritmo".
La sala incluía a los 193 estados miembros de la ONU, reunidos en Ginebra en el primer Diálogo Global sobre la Gobernanza de la IA, un intento multilateral de gobernar una tecnología que ya ha superado a todos los que intentan hacerlo.
El concepto ("meme") utilizado por Guterres para explicar los riesgos de una IA no gobernada fue el "vibe coding", un término acuñado por Andrej Karpathy, miembro fundador de OpenAI y ex director de IA en Tesla, para describir la programación por intuición: decirle a la IA lo que se quiere, dejar que ella se encargue del resto, sin examinar demasiado. Merriam-Webster lo añadió recientemente a su diccionario.
Guterres reconoció que el "vibe coding" "puede hacer maravillas" a medida que más personas confían en los productos construidos con IA.
"Pero no podemos 'vibe-codificar' la verdad", dijo. "No podemos 'vibe-codificar' el futuro de la humanidad".
Las cifras detrás de esa afirmación no fueron suaves. Guterres señaló que el internet tardó 15 años en llegar a mil millones de personas y la IA, dos. Describió los sistemas actuales como "ya no son herramientas que esperan instrucciones, están escribiendo código, actuando en línea y tomando decisiones con cada vez menos supervisión humana".
"Nuestras instituciones fueron construidas para gobernar máquinas que siguen órdenes. No están preparadas para máquinas que deciden".
El diálogo nació del Pacto Digital Global de 2024, que estableció por primera vez la gobernanza internacional de la IA como un mandato de la ONU. Su sesión inaugural, dos años después, también recibió el informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial –40 científicos de 140 países–, que publicó la semana pasada la conclusión de que nadie puede garantizar actualmente que la IA no causará daños catastróficos.
La velocidad fue una de las tres advertencias que Guterres extrajo del panel. La segunda fue el poder: la computación, los datos y el talento concentrados en un puñado de empresas y países, con la mayor parte del mundo excluida de las decisiones que ya lo están moldeando, algo que también preocupa a otros expertos en IA como Yann Lecun, Andy Kowinski y Yoshua Bengio.
La tercera fue la verdad: una mentira habilitada por máquinas ahora persuade con la misma eficacia que un hecho verificado, erosionando constantemente lo que Guterres llamó "la integridad de nuestro ecosistema de información".
Niños conejillos de indias y robots asesinos
Entre las propuestas concretas de Guterres se encuentra un Compromiso de Seguridad Infantil en la IA que exige a las empresas demostrar la seguridad mediante pruebas independientes antes de que cualquier IA llegue a los niños, mantener tolerancia cero para la generación de imágenes de abuso sexual infantil y conectar a los niños en situación de angustia con apoyo humano real en lugar de dejarlos solos con un chatbot. "Ningún niño debería ser un conejillo de indias para la IA no regulada".
Y luego estaban los robots asesinos. Guterres calificó las armas autónomas letales —máquinas que seleccionan y matan un objetivo sin juicio humano— de "moralmente repugnantes" y exigió su prohibición por ley internacional.
Los estados ya están en la mesa de discusión. No sugirió que se tomaran su tiempo.
El Diálogo se reanudará en Nueva York en 2027. Guterres también pidió a la Asamblea General que cree un Fondo Global para la IA centrado en el acceso a la computación para los países en desarrollo, y desafió a cada empresa importante de IA a operar todos sus centros de datos con energía renovable para 2030, año en que estima que esas instalaciones superarán a todas las naciones excepto a cinco en consumo de electricidad.
