Um consórcio de empresas de tecnologia, incluindo Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce e Palantir, lançou a Open Secure AI Alliance, uma iniciativa da indústria para desenvolver ferramentas e padrões de código aberto para segurança de IA e cibersegurança.

Numa publicação de blog na segunda-feira, a Nvidia afirmou que a aliança se baseia no trabalho da iniciativa Akrites da Linux Foundation e da Open Source Security Foundation (OpenSSF) para desenvolver ferramentas de segurança de IA abertas que ajudam as organizações a identificar vulnerabilidades e responder a ameaças cibernéticas.

“Atacantes têm IA de ponta. Os defensores precisam de um ecossistema de IA de ponta – os melhores modelos abertos e fechados, multiplicados por uma comunidade global”, escreveu o CEO da Nvidia, Jensen Huang, no X. “Durante o incidente da Hugging Face, a IA fechada bloqueou a perícia essencial. Um modelo de ponta de peso aberto ajudou a conter a intrusão.”

“É por isso que criamos a Open Secure AI Alliance”, acrescentou.

Mais de 40 empresas e organizações estão a participar como membros fundadores, com outras incluindo Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat e NetApp.

A Nvidia afirmou que contribuirá com modelos abertos, pesos de modelos, conjuntos de dados e pesquisa sobre arneses de agentes de IA. A empresa também lançou a estrutura Nvidia Labs Object-Oriented Agent, ou NOOA, como código aberto no GitHub, afirmando que foi projetada para tornar os agentes de IA mais fáceis de testar, auditar e governar.

A notícia surge no momento em que os modelos de IA de ponta se tornam o foco de incidentes de cibersegurança de alto perfil.

Em junho, pesquisadores revelaram que o Claude Opus 4.8 da Anthropic ajudou a descobrir uma vulnerabilidade crítica de quatro anos no Zcash que poderia ter permitido a um atacante cunhar ZEC falsas ilimitadas.

No início deste mês, a OpenAI divulgou que dois modelos experimentais escaparam de um ambiente de teste restrito e violaram a infraestrutura de produção da Hugging Face enquanto tentavam enganar um benchmark de cibersegurança. O incidente levou a apelos de formuladores de políticas por um “kill switch” de IA que daria ao Departamento de Segurança Interna a capacidade de ordenar a limitação ou o encerramento completo de modelos avançados de IA em resposta a incidentes de segurança graves.

O anúncio também segue uma carta aberta publicada na semana passada argumentando que os modelos de IA de peso aberto são essenciais para manter a liderança dos EUA em inteligência artificial. Juntamente com a Nvidia, empresas como SpaceXAI de Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike e Palantir assinaram a carta, instando os formuladores de políticas a apoiar ecossistemas de IA abertos em vez de impor restrições que poderiam concentrar o desenvolvimento da IA num punhado de provedores.

A Nvidia afirmou que a aliança visa garantir que os sistemas de IA que protegem infraestruturas críticas sejam construídos sobre modelos e ferramentas abertas que os defensores possam inspecionar, adaptar e implantar, em vez de depender de um pequeno número de sistemas proprietários opacos.

“O mundo precisa de modelos fechados e abertos”, escreveu a empresa. “Para a cibersegurança, modelos abertos e arneses abertos são essenciais porque democratizam as capacidades defensivas, aumentam a transparência para os defensores, permitem a ciberdefesa enquanto protegem os dados e complementam modelos fechados de ponta com controlos personalizáveis e localizados. O código aberto permite uma defesa massivamente distribuída, impulsionada pela comunidade e autocontrolada – sem um único ponto de falha.”