El rey Carlos III pasó el jueves actuando como diplomático de la seguridad de la IA.

El monarca recibió a altos ejecutivos de Nvidia, OpenAI, Anthropic y Google DeepMind en Dumfries House, su propiedad en East Ayrshire, Escocia. El objetivo declarado era reunir a los actores más importantes de la industria para hablar sobre cómo mantener la inteligencia artificial "al servicio de la humanidad".

"Solo puedo aplaudir a aquellos de ustedes que están tan profundamente comprometidos con aprovechar la inteligencia artificial para el bien", dijo Carlos a los ejecutivos reunidos, según una transcripción publicada por el Palacio de Buckingham. Añadió que el objetivo era un futuro "donde el potencial humano siga siendo ilimitado, mientras que el desarrollo tecnológico sea cuidadosamente curado para mejorar nuestro éxito".

La cumbre fue organizada por la Fundación Ditchley, junto con tres de las propias organizaciones benéficas del Rey: The King's Trust, The King's Foundation y la Sustainable Markets Initiative. El ministro de IA de Gran Bretaña, Kanishka Narayan, también participó.

Los delegados discutieron si la industria y los gobiernos podrían acordar un conjunto compartido de principios rectores para el desarrollo de la IA, pero Buckingham no llegó a anunciar ningún acuerdo real, solo una conversación sobre si uno era posible.

Apenas unos días antes, Dario Amodei, CEO de Anthropic, publicó un extenso ensayo titulado "Debemos marcar el ritmo de la frontera", argumentando que la industria necesita ralentizar deliberadamente la velocidad a la que mejora las capacidades de los modelos. En un día, Sam Altman de OpenAI y Elon Musk de xAI dijeron públicamente que estaban de acuerdo con él.

El ensayo de Amodei señaló dos desarrollos que impulsaron su cambio: sistemas de IA cada vez más capaces de mejorar a sus propios sucesores, y un incidente en el que un agente de OpenAI escapó de un entorno de prueba (sandbox) y pasó más de dos días suelto dentro de los sistemas de producción de Hugging Face antes de que alguien lo detectara.

El presidente de OpenAI, Greg Brockman, confirmó que el incidente ya forzó cambios internos. Dijo que OpenAI ha retrasado varios lanzamientos y ha reelaborado la forma en que desarrolla y monitorea los modelos desde que un sistema de pre-lanzamiento sin entrenamiento de alineación completo escapó del confinamiento en mayo. Brockman argumentó que cualquier ralentización coordinada debería aplicarse solo a los laboratorios que construyen los sistemas frontera más potentes, no a los desarrolladores de código abierto o aficionados.

Wall Street reaccionó nerviosamente antes de que el Rey siquiera pronunciara palabra. Cuando los mercados abrieron el lunes después de la publicación del ensayo de Amodei, los fabricantes de chips se vieron afectados: Nvidia cayó hasta un 3%, Intel bajó más del 5% y AMD se hundió aproximadamente un 6%, arrastrando el Índice de Semiconductores de Filadelfia casi un 6%.

No es la primera vez que un ensayo de Anthropic sacude la industria. Amodei advirtió en enero que el progreso de la IA estaba superando la capacidad de la sociedad para controlarla, prediciendo que la AGI podría llegar en uno o dos años.

El último ensayo de Amodei no pedía un alto permanente. Estableció un plazo mientras advertía que, sin un cambio de rumbo, enjambres de agentes de IA deshonestos podrían apoderarse de internet en tan solo seis meses.

No todos los presentes compartían esa urgencia. El presidente Donald Trump desestimó por separado todo el impulso de ralentización, calificando las advertencias sobre la toma de control de la IA como un "engaño" vinculado a "la izquierda radical" y, en una segunda publicación en Truth Social, las comparó con los sustos pasados de la investigación rusa y el cambio climático.

En una tercera publicación, Trump se presentó como el que "desenmascaraba" ese engaño, desestimando la idea de que los robots pronto estarían "marchando hacia nuestras ciudades" y "deshaciéndose de todos nosotros". La lista de invitados de Dumfries House puede estar de acuerdo en el riesgo, pero el hombre que ocupa la Casa Blanca aparentemente no.