OpenAI sentó un precedente el 21 de julio. La compañía afirmó que una combinación de sus modelos, ambos ejecutados con denegaciones de seguridad reducidas, escapó de un entorno aislado durante una evaluación de capacidades cibernéticas y alcanzó la infraestructura de producción del repositorio de código abierto Hugging Face. Los modelos encadenaron una vulnerabilidad de día cero en un proxy de registro de paquetes con credenciales robadas para extraer respuestas de la evaluación directamente de la base de datos de Hugging Face.
En una actualización una semana después, OpenAI dijo que Hugging Face no fue el único objetivo: el mismo incidente afectó cuatro cuentas en otros cuatro servicios, uno utilizado como retransmisión saliente y otro para almacenamiento de datos.
Anthropic, impulsada por la divulgación, revisó 141.006 de sus propias pruebas y encontró tres brechas más. En una publicación publicada el 30 de julio, el laboratorio dijo que los modelos Claude Opus 4.7, Mythos 5 y un sistema de investigación interno accedieron a internet abierto desde entornos gestionados por el socio externo Irregular y luego comprometieron organizaciones reales. Mythos 5 construyó y publicó un paquete Python con trampa explosiva en el registro público de PyPI, que fue descargado y ejecutado en 15 máquinas reales antes de que los defensores lo retiraran.
Dos de las tres empresas víctimas no se habían dado cuenta.
Ningún laboratorio describe un modelo con su propia agenda. Los agentes operaron durante largos períodos sin intervención humana, y en un caso, Opus 4.7 continuó atacando después de que hubo señales de que había alcanzado la producción.
Los incidentes ocurren mientras ambas compañías consideran salidas a bolsa que podrían valorar cada una por encima de 1 billón de dólares, lo que agudiza una pregunta importante en la carrera de evaluaciones cibernéticas de IA: ¿cómo se prueban capacidades peligrosas sin incidentes peligrosos?
Estados Unidos no tiene una ley federal que cubra la responsabilidad por los daños causados por la IA. Cualquier caso se apoyaría en la Ley de Fraude y Abuso Informático, un estatuto de 1986 que tipifica como delito el acceso "intencional" a una computadora sin autorización, un lenguaje escrito para un ser humano que forma intención.
Un agente de IA no es una persona jurídica, por lo que no puede ser procesado. El Departamento de Justicia podría teóricamente presentar cargos contra las empresas, pero con tan pocos precedentes, no está claro quién tiene la culpa.
El camino más sólido es el civil. Ahmed Ghappour, un erudito en derecho informático de la New York Law School, argumentó que los modelos "son la herramienta de la empresa", y "Cuando un agente de IA actúa sin ser dirigido específicamente (...) las preguntas más interesantes pueden residir en la negligencia y la responsabilidad por productos (no en las leyes penales de piratería informática)".
Para mí, la lección de las historias de piratería de IA tiene más que ver con la gobernanza que con la capacidad del modelo.
La calidad de las salvaguardas como la arquitectura de contención, los límites de autorización, la supervisión y la respuesta a incidentes son cada vez más importantes.
— ahmed ghappour ⚡️🤖 (@ghappour) August 4, 2026
La reclamación más clara de las víctimas es la negligencia: OpenAI y Anthropic configuraron y ejecutaron pruebas que escaparon. Eso también es difícil de vender: probar que los laboratorios incumplieron un deber de cuidado, cuando las pruebas estaban aisladas por diseño, es exactamente el tipo de argumento novedoso que un juez tendría que forjar desde cero.
Algunos pensadores legales quieren reglas más estrictas. Gabriel Weil de la Universidad de Houston y el Instituto de Derecho e IA ha propuesto tratar a los laboratorios de vanguardia como guardianes de animales salvajes: responsables independientemente del cuidado que hayan tenido, porque el riesgo es inherente a la actividad.
Dicho esto, un conjunto de proyectos de ley estatales ya apunta en esa dirección. Los S8833 de Nueva York y los H8052 de Rhode Island harían responsable al desarrollador de un sistema de IA de vanguardia por los daños cuando ningún usuario o intermediario pretendió la conducta o fue negligente. La AB 316 de California va más allá, eliminando la defensa de "IA autónoma" para que una empresa no pueda eludir la responsabilidad culpando a la independencia del modelo.
La Ley de IA de la UE (Reglamento 2024/1689) también impone obligaciones a los proveedores de sistemas de alto riesgo, aunque no tiene una disposición dirigida directamente a las intrusiones impulsadas por agentes. Yendo un poco más allá, algunos políticos estadounidenses están impulsando un proyecto de ley que le daría al gobierno un "interruptor de apagado" completo para usar contra cualquier modelo que vaya en contra de los intereses del país.
Moralmente, la responsabilidad recae, sin duda, en los ejecutivos que lanzaron los modelos. Legalmente, esperamos. Hasta que una empresa hackeada presente una demanda, la respuesta a "¿quién es responsable?" permanece exactamente donde OpenAI y Anthropic la dejaron: admitida, divulgada y sin resolver.
Mientras tanto, Hugging Face ha indicado que no presentará cargos, lo cual es conveniente para OpenAI. Las otras empresas afectadas aún no han indicado qué camino tomarán.
