Uma discussão entre o CEO da Anthropic, Dario Amodei, e o CEO do JPMorgan Chase, Jamie Dimon, na terça-feira, focou na crescente ameaça de cibersegurança representada pela inteligência artificial, à medida que ela identifica vulnerabilidades mais rapidamente do que as organizações conseguem corrigi-las.

No evento de quase duas horas ligado ao avanço da Anthropic nos serviços financeiros, onde revelou agentes de IA para tarefas como pitchbooks, revisão de resultados e trabalho de conformidade, Amodei disse que pode haver uma janela de seis a 12 meses para resolver dezenas de milhares de falhas descobertas pelo modelo Mythos da empresa antes que capacidades semelhantes se tornem mais amplamente disponíveis.

“O perigo é apenas um aumento enorme na quantidade de vulnerabilidades, na quantidade de violações, no dano financeiro causado por ransomware em escolas, hospitais, sem falar nos bancos”, disse Amodei.

As últimas declarações de Amodei seguem testes anteriores com a Mozilla, quando uma versão inicial do Mythos identificou 271 vulnerabilidades no navegador Firefox em uma única varredura, mostrando como a IA pode analisar grandes bases de código muito mais rápido do que pesquisadores humanos.

A Anthropic disse que o modelo pode descobrir milhares de fraquezas previamente desconhecidas em softwares amplamente utilizados. Muitas permanecem não divulgadas porque ainda não foram corrigidas, deixando falhas não resolvidas.

“Se anunciarmos algo sem que seja corrigido, então os criminosos irão explorá-lo”, disse Amodei.

Em testes controlados, o Mythos completou simulações de ataque de rede em várias etapas sem intervenção humana, demonstrando a capacidade de passar da identificação de fraquezas para a exploração delas.

A Anthropic restringiu o modelo a um pequeno grupo de parceiros no âmbito do Projeto Glasswing, com o objetivo de corrigir vulnerabilidades antes que ferramentas semelhantes se tornem amplamente disponíveis.

Pesquisadores mostraram que elementos da capacidade do Mythos podem ser reproduzidos usando modelos existentes e técnicas de código aberto, sugerindo que ferramentas semelhantes poderiam se espalhar mais rápido do que o esperado.

Os alertas geraram ceticismo dentro da indústria. Em abril, o CEO da OpenAI, Sam Altman, disse que as preocupações com o Mythos podem ser exageradas e sugeriu que a Anthropic está usando “marketing baseado no medo” para enquadrar os riscos e justificar a limitação do acesso à tecnologia.

“Você pode justificar isso de muitas maneiras diferentes, e parte disso é real, como haverá preocupações legítimas de segurança”, disse Altman. “Mas se o que você quer é algo como 'precisamos do controle da IA, só nós, porque somos as pessoas confiáveis', acho que o marketing baseado no medo é provavelmente a maneira mais eficaz de justificar isso."

Mesmo com essa resistência, e apesar de uma disputa pública com a Anthropic, o governo dos EUA estaria usando o Claude Mythos para escanear redes classificadas em busca de vulnerabilidades e testar suas capacidades de cibersegurança, de acordo com a Axios. Embora não tenha abordado a batalha legal em curso, Amodei disse que a Anthropic é “boa para este país”."

“Acho que a visão da Anthropic é a mesma de sempre. Em termos de politização, este é o ponto que fiz sobre ser simplificado, sistemático e justo para todos”, disse Amodei. “O propósito das leis e de não fazer as coisas de forma ad hoc é que todas as empresas são, pelo menos em princípio – sei que é mais complicado na prática – tratadas da mesma forma, e devemos aspirar a isso, mesmo que nunca aconteça perfeitamente dessa maneira.”

Amodei enquadrou o momento como uma janela estreita para a ação, alertando que a rapidez com que as organizações respondem pode determinar se os riscos aumentam ou são controlados.

“Este é um momento de perigo onde, se respondermos a ele corretamente, e acho que começamos a dar os primeiros passos, então poderemos ter um mundo melhor do outro lado”, disse Amodei. “Só há um certo número de bugs a serem encontrados.”