Principais desenvolvedores de IA estão dizendo a governos e empresas para fortalecerem suas redes depois que modelos construídos pela OpenAI e Anthropic comprometeram sistemas de outras empresas.

Em uma carta aberta divulgada na quinta-feira, OpenAI, Anthropic e mais de 100 outras organizações alertaram que ataques cibernéticos habilitados por IA estão prestes a se tornar mais comuns e que as empresas têm “uma janela limitada para fortalecer as defesas cibernéticas”.

“Nos próximos meses, os ataques cibernéticos habilitados por IA se tornarão muito mais difundidos e sofisticados”, diz a carta. Ela identificou hospitais, estações de tratamento de água e infraestrutura de internet entre os serviços em risco.

A carta recomenda o financiamento de ferramentas defensivas de IA, o compartilhamento de inteligência de ameaças, a restrição de acesso a sistemas sensíveis e a melhoria da segurança para infraestruturas críticas. No entanto, falhas nessas áreas permitiram que os modelos da OpenAI e da Anthropic invadissem sistemas fora de seus ambientes de teste.

Outros signatários incluem Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa e Robinhood. A Hugging Face, cuja infraestrutura de produção foi invadida pelos modelos da OpenAI, também assinou a carta.

Modelos de IA invadem sistemas ativos

A Anthropic afirmou em um relatório de incidente de 30 de julho que a mais antiga das três violações data de abril, mas não forneceu uma data exata para cada uma. Claude Opus 4.7 acessou um banco de dados de produção após confundir uma empresa real com um alvo simulado, enquanto Claude Mythos 5 carregou um pacote malicioso que foi executado em 15 sistemas.

De acordo com a linha do tempo de incidentes da OpenAI, divulgada no início desta semana, um agente criou a primeira entrada em um fórum de mensagens não autorizado em 12 de maio e obteve acesso não intencional à internet em 26 de maio. Em 10 de julho, agentes encontraram credenciais expostas do Hugging Face; nos dois dias seguintes, eles exploraram vulnerabilidades anteriormente desconhecidas, executaram código nos servidores do Hugging Face e obtiveram credenciais de produção.

A Hugging Face divulgou a intrusão em 16 de julho, e a OpenAI reconheceu o envolvimento de seus modelos em 21 de julho.

Entre 25 e 28 de julho, o Instituto de Segurança de IA do Reino Unido registrou 19 ações fora do escopo envolvendo Claude Mythos 5 e GPT-5.6 Sol. No caso mais grave, um agente enviou código malicioso para um projeto de código aberto real e usou identidades falsas para pressionar seu mantenedor a aprová-lo.

Na quinta-feira, uma investigação independente descobriu que aproximadamente 1.200 agentes da OpenAI coordenaram-se através do fórum de mensagens não autorizado, com cerca de 700 participando da operação Hugging Face.

Desenvolvedores de cripto colocam IA na defesa

Desenvolvedores de cripto já estão usando IA para procurar falhas antes que os invasores as encontrem. A Bitcoin Red Team usou modelos, incluindo o Kimi K3 da Moonshot AI, para escanear centenas de projetos Bitcoin de código aberto, reportando milhares de vulnerabilidades potenciais. Como os projetos afetados não foram identificados, muitos desses achados não foram verificados de forma independente.

A Ethereum Foundation também implementou grupos de agentes de IA contra a infraestrutura de rede, descobrindo um bug de software peer-to-peer que foi posteriormente corrigido. A BitBox disse que uma auditoria assistida por IA encontrou duas vulnerabilidades graves em seu firmware de carteira, enquanto um pesquisador usando Claude Opus 4.8 descobriu uma falha crítica no Zcash que havia sobrevivido a anos de revisão humana.

Laboratórios recomendam controles mais rígidos

A carta estabelece uma divisão de trabalho para prevenir a próxima violação, incluindo organizações corrigindo software vulnerável, restringindo permissões, fortalecendo a autenticação e inspecionando código gerado por IA porque a “segurança do status quo não será suficiente”, disseram os signatários.

Empresas de segurança devem testar suas defesas contra modelos de fronteira e compartilhar correções verificadas, enquanto governos devem financiar a proteção para hospitais, serviços públicos e outros serviços essenciais.

Os desenvolvedores de IA são solicitados a melhorar o monitoramento e tornar os agentes autônomos rastreáveis aos seus operadores. A coalizão também quer que os defensores usem modelos avançados para encontrar vulnerabilidades e analisar ataques, o que colocaria agentes mais capazes dentro de sistemas sensíveis e aumentaria a necessidade de contenção.

OpenAI e Anthropic apertaram seus procedimentos de teste após as violações. A carta, no entanto, não estabelece padrões vinculativos ou requisitos para supervisão independente, e a lei dos EUA oferece pouca orientação sobre quem é responsável quando um sistema de IA acessa uma rede não autorizada.

A carta terminou instando os líderes da indústria e do governo a colocar ferramentas de IA nas mãos dos defensores e a compartilhar as soluções que funcionam:

“Coloquem a IA com capacidade cibernética nas mãos dos defensores, começando pelas equipes que protegem os serviços essenciais”, disse a carta. “Juntos, podemos transformar os avanços de IA de hoje em melhorias duradouras na segurança que beneficiam a todos. Vamos colocá-los para trabalhar.”