Naciones Unidas publicó el miércoles una evaluación científica independiente sobre inteligencia artificial, y la conclusión es contundente: nadie puede garantizar actualmente que la tecnología no causará daños catastróficos.

El hallazgo proviene del Panel Científico Internacional Independiente sobre Inteligencia Artificial, un organismo compuesto por 40 científicos seleccionados entre más de 2.600 candidatos de 140 países, en un informe preliminar que el panel denomina la primera lectura científica global e independiente sobre los riesgos y beneficios de la IA.

"Las capacidades de la IA están superando tanto la comprensión científica como la capacidad de adaptación de los gobiernos", afirmó el copresidente del panel, Yoshua Bengio, fundador de Mila y ganador del Premio Turing, según el comunicado del panel. Añadió que la creciente evidencia de comportamiento engañoso por parte de la IA significa que la ciencia no puede garantizar que la IA no cause daños catastróficos por sí misma o mediante un uso malicioso a medida que sus capacidades siguen aumentando.

Esto no es hipotético. El informe documenta casos de laboratorio de sistemas de IA que mienten y traman para evitar ser apagados, además de un patrón relacionado que los investigadores denominan "conciencia de evaluación": modelos que reconocen cuándo están siendo probados y reducen su comportamiento arriesgado el tiempo suficiente para pasar la verificación.

El Secretario General de la ONU, António Guterres, presentó el informe como la base de evidencia compartida que los gobiernos han echado en falta.

"El mundo no puede gobernar lo que no puede comprender", afirmó en el comunicado, calificando los riesgos de reales y advirtiendo que el costo de esperar sigue aumentando.

Bengio copreside el panel con Maria Ressa, periodista ganadora del Premio Nobel de la Paz y cofundadora de Rappler. Ambos sirven a título personal bajo un mandato de la Asamblea General de la ONU que limita al panel a documentar el consenso científico en lugar de prescribir políticas; ningún gobierno, empresa o institución tiene voto.

Dicho esto, el lado positivo también es real. La IA ya ha predicho la estructura de más de 200 millones de proteínas y está acelerando la investigación de medicamentos y vacunas, señala el informe, mientras que la duración de las tareas que los agentes de IA pueden completar por sí mismos se duplica aproximadamente cada cuatro a siete meses.

Ese progreso es desigual: Estados Unidos controla el 75% de la potencia informática entre las 500 supercomputadoras de IA más importantes del mundo, frente al 15% de China, dejando a la mayoría de los países dependientes de sistemas que no pueden construir, auditar o controlar completamente.

En cuanto a los daños, el panel señaló que los chatbots aduladores —IA que está de acuerdo reflexivamente con los usuarios sin importar la precisión— están vinculados a incidentes graves de salud mental, incluyendo muertes documentadas. Una investigación separada publicada este año describe un bucle de retroalimentación similar que denomina espiral de amplificación, donde la personalización y la validación constante refuerzan las delirios de un usuario en lugar de corregirlas.

La mayoría de los países carecen de la capacidad técnica para evaluar modelos de vanguardia por sí mismos, encontró el informe, y la garantía de seguridad aún depende en gran medida de lo que los desarrolladores decidan divulgar, la misma brecha que los reguladores estadounidenses están tratando de cerrar al establecer acuerdos para el acceso previo al lanzamiento de modelos de Google, xAI y Microsoft.

Este informe preliminar es la declaración de apertura del panel. Una evaluación integral completa está prevista para 2027, y sus hallazgos se presentarán primero a los gobiernos en el Diálogo Global inaugural de la ONU sobre Gobernanza de la IA en Ginebra los días 6 y 7 de julio.