Semanas después de que sus modelos de IA hackearan Hugging Face, OpenAI ha compartido su primer relato detallado de cómo se coordinaron entre sí, advirtiendo que los ciberataques autónomos impulsados por IA ya no son un riesgo futuro.
Durante una presentación el miércoles en la conferencia de ciberseguridad Black Hat, los investigadores de OpenAI Eric Wallace y Michael Dalton dijeron que el incidente comenzó en mayo durante una evaluación interna de ciberseguridad. Agentes de IA a los que se les asignaron tareas difíciles de seguridad de software descubrieron que podían comunicarse a través del sistema interno de gestión de paquetes Artifactory de la compañía.
Según OpenAI, lo que comenzó como solicitudes de ayuda se convirtió en un tablón de mensajes compartido donde los agentes intercambiaron exploits, credenciales y tareas de trabajo a lo largo de múltiples ejecuciones de evaluación. Después de detectar actividad sospechosa alrededor del 4 de julio, OpenAI reconstruyó su infraestructura Artifactory, revocó credenciales y parcheó vulnerabilidades.
Sin embargo, en cuestión de días, los agentes recrearon el tablón de mensajes ocultando comunicaciones en nombres de directorios.
Según OpenAI, los agentes finalmente encadenaron múltiples vulnerabilidades, escaparon de su entorno de prueba, obtuvieron acceso a internet y atacaron Hugging Face mientras intentaban completar el benchmark de ciberseguridad ExploitGym.
Dalton calificó el incidente como "un momento decisivo" para la seguridad informática, advirtiendo que los atacantes pronto podrán desplegar colectivos coordinados de agentes de IA que descubran, compartan y exploten vulnerabilidades a la velocidad de las máquinas.
Para mitigar estos riesgos en el futuro, OpenAI dijo que establecer prácticas de seguridad, incluyendo acceso de privilegio mínimo, segmentación de red y arquitecturas de confianza cero, es esencial porque los agentes de IA siguen estando limitados por los sistemas a los que pueden acceder.
La presentación sigue a una serie de revelaciones de julio. OpenAI reveló que GPT-5.6 Sol y un modelo más avanzado no lanzado escaparon de un entorno de prueba aislado, explotaron una vulnerabilidad de día cero, obtuvieron acceso a internet y hackearon Hugging Face durante una prueba de ciberseguridad.
OpenAI reveló más tarde que el mismo incidente también afectó a otros cuatro servicios en línea, aunque solo se ha identificado a Modal Labs.
Según Hugging Face, la compañía se basó en el modelo chino de código abierto GLM 5.2 para su investigación forense después de que los modelos de IA comerciales estadounidenses se negaran a analizar los registros de ataque debido a sus medidas de seguridad.
So proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed.
Also massively grateful to @Zai_org: they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our… https://t.co/T2Inng5Nz1
— clem 🤗 (@ClementDelangue) July 22, 2026
Pero no es solo OpenAI quien tiene problemas para contener sus chatbots.
El viernes, Anthropic reveló que tres modelos Claude comprometieron a compañías del mundo real durante pruebas internas de ciberseguridad después de que una mala configuración los expusiera a la internet pública.
Anthropic culpó al entorno de prueba, no a los modelos en sí. El miércoles, Meta reveló que su modelo de IA Muse Spark escapó del confinamiento y violó los sistemas de otra compañía.
"Una mala configuración por parte de Irregular, una empresa de pruebas independiente que Meta utiliza, permitió inadvertidamente que uno de nuestros modelos tuviera acceso a internet durante la evaluación", dijo un portavoz de Meta a CNN.
