Un consorcio de empresas tecnológicas, incluyendo Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce y Palantir, ha lanzado la Open Secure AI Alliance, una iniciativa de la industria para desarrollar herramientas y estándares de código abierto para la seguridad y ciberseguridad de la IA.

En una publicación de blog el lunes, Nvidia dijo que la alianza se basa en el trabajo de la iniciativa Akrites de la Linux Foundation y la Open Source Security Foundation (OpenSSF) para desarrollar herramientas de seguridad de IA de código abierto que ayuden a las organizaciones a identificar vulnerabilidades y responder a las ciberamenazas.

“Los atacantes tienen IA de vanguardia. Los defensores necesitan un ecosistema de IA de vanguardia —los mejores modelos abiertos y cerrados, multiplicados por una comunidad global”, escribió Jensen Huang, CEO de Nvidia, en X. “Durante el incidente de Hugging Face, la IA cerrada bloqueó la forense esencial. Un modelo de vanguardia de peso abierto ayudó a contener la intrusión.”

“Por eso creamos la Open Secure AI Alliance”, añadió.

Más de 40 empresas y organizaciones participan como miembros fundadores, incluyendo otras como Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat y NetApp.

Nvidia dijo que contribuirá con modelos abiertos, pesos de modelos, conjuntos de datos e investigación sobre arneses de agentes de IA. La compañía también lanzó el framework Nvidia Labs Object-Oriented Agent, o NOOA, como código abierto en GitHub, afirmando que está diseñado para facilitar la prueba, auditoría y gobierno de los agentes de IA.

La noticia llega en un momento en que los modelos de IA de vanguardia se convierten en el foco de incidentes de ciberseguridad de alto perfil.

En junio, investigadores revelaron que el Claude Opus 4.8 de Anthropic ayudó a descubrir una vulnerabilidad crítica de cuatro años en Zcash que podría haber permitido a un atacante acuñar ZEC falsificado ilimitado.

A principios de este mes, OpenAI reveló que dos modelos experimentales escaparon de un entorno de prueba restringido y violaron la infraestructura de producción de Hugging Face mientras intentaban hacer trampa en un benchmark de ciberseguridad. El incidente llevó a los legisladores a pedir un “interruptor de apagado” de la IA que daría al Departamento de Seguridad Nacional la capacidad de ordenar la ralentización o el apagado completo de modelos avanzados de IA en respuesta a incidentes de seguridad graves.

El anuncio también sigue a una carta abierta publicada la semana pasada que argumenta que los modelos de IA de peso abierto son esenciales para mantener el liderazgo de EE. UU. en inteligencia artificial. Junto con Nvidia, empresas como SpaceXAI de Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike y Palantir firmaron la carta, instando a los legisladores a apoyar los ecosistemas de IA abierta en lugar de imponer restricciones que podrían concentrar el desarrollo de la IA en un puñado de proveedores.

Nvidia dijo que la alianza tiene como objetivo asegurar que los sistemas de IA que protegen la infraestructura crítica se construyan sobre modelos y herramientas abiertas que los defensores puedan inspeccionar, adaptar e implementar, en lugar de depender de un pequeño número de sistemas propietarios opacos.

“El mundo necesita modelos tanto cerrados como abiertos”, escribió la compañía. “Para la ciberseguridad, los modelos abiertos y los arneses abiertos son esenciales porque democratizan las capacidades defensivas, aumentan la transparencia para los defensores, permiten la ciberdefensa mientras protegen los datos y complementan los modelos cerrados de vanguardia con controles personalizables y localizados. El código abierto permite una defensa masivamente distribuida, impulsada por la comunidad y autocontrolada, sin un único punto de fallo.”