A Anthropic afirmou que restaurará o acesso público ao Claude Fable 5 e Mythos 5 depois que as autoridades dos EUA suspenderam as restrições de exportação que mantinham os dois modelos de IA mais avançados da empresa offline desde 12 de junho.
De acordo com a Anthropic, a decisão seguiu “uma série de conversas produtivas” com o governo dos EUA, após as quais a empresa começou a reimplantar os modelos com novos classificadores projetados para identificar e bloquear mais tarefas relacionadas à cibersegurança.
A empresa disse que as últimas salvaguardas visam abordar as preocupações do governo ligadas a possível uso indevido caso os sistemas sejam contornados por meio de métodos de "jailbreak".
As restrições forçaram a Anthropic a suspender o acesso ao Fable 5 e Mythos 5 para todos os usuários no início deste mês, depois que uma diretiva de controle de exportação do governo dos EUA instruiu a empresa a bloquear ambos os modelos para todos os cidadãos estrangeiros.
Em sua declaração de 13 de junho, a Anthropic disse que a ordem também cobria funcionários estrangeiros trabalhando dentro da empresa, levando-a a desativar os modelos inteiramente para garantir a conformidade.
O Secretário de Comércio dos EUA, Howard Lutnick, disse no X na quarta-feira que as autoridades trabalharam com a Anthropic nas últimas duas semanas para revisar e aprovar o Fable 5, mantendo o modelo alinhado com os requisitos do governo dos EUA.
A Chefe de Gabinete da Casa Branca, Susie Wiles, também disse no X que a prioridade do governo era ter a melhor tecnologia de IA implantada “o mais rápido e seguro possível.”
A intervenção ocorreu depois que as autoridades tomaram conhecimento de um relatório no qual pesquisadores da Amazon encontraram um método para contornar as salvaguardas do Fable 5 e fazer o modelo identificar vulnerabilidades de software.
A Anthropic, no entanto, argumentou que o problema relatado não era exclusivo do Fable 5, dizendo que modelos mais fracos também poderiam identificar as mesmas vulnerabilidades e produzir resultados semelhantes relacionados a exploits.
Em sua resposta anterior à ordem, a empresa disse que as autoridades apresentaram apenas evidências verbais do que descreveu como um "jailbreak" restrito e não universal. A Anthropic afirmou que tal método não removeu as proteções de segurança de um modelo em uma ampla gama de tarefas, ao contrário de um "jailbreak" universal.
“Discordamos que a descoberta de um potencial "jailbreak" restrito deva ser motivo para recolher um modelo comercial implantado para centenas de milhões de pessoas. Se este padrão fosse aplicado em toda a indústria, acreditamos que essencialmente pararia todas as novas implantações de modelos para todos os provedores de modelos de ponta.”
A empresa também alertou que tratar um "jailbreak" restrito como motivo para recolher um modelo comercial de ponta poderia afetar toda a indústria de IA se aplicado como um padrão geral.
As restrições à Anthropic levantaram preocupações políticas também fora dos Estados Unidos. Em 29 de junho, a Áustria instou a União Europeia a explorar o estabelecimento da Anthropic dentro do bloco, com o Secretário de Estado para a Digitalização, Alexander Proell, argumentando em uma carta que a Europa não deveria arriscar perder o acesso a grandes avanços da IA devido a decisões tomadas em outros lugares.
Juntamente com a reimplantção dos modelos, a Anthropic disse que está aumentando a cooperação com o governo dos EUA em testes de modelos, salvaguardas e rastreamento de uso indevido. A empresa afirmou que isso incluirá acesso pré-lançamento a modelos e sistemas de segurança para avaliação, compartilhamento de informações sobre "jailbreaks" e uso indevido, e recursos dedicados para pesquisa conjunta.
A Anthropic também começou a elaborar uma estrutura com Amazon, Microsoft, Google e outros parceiros por meio do Projeto Glasswing, uma colaboração de cibersegurança anunciada em abril, para avaliar a gravidade dos "jailbreaks" de IA. A empresa disse que a estrutura está sendo desenvolvida como um esforço consensual para classificar os riscos de "jailbreak".
O debate sobre acesso veio à medida que a Anthropic continuou sua pressão por uma supervisão mais rigorosa da IA de ponta. Em sua proposta “Política sobre o Exponencial da IA” de 11 de junho, a empresa pediu requisitos de teste, avaliações independentes, padrões de cibersegurança e medidas de aplicação para sistemas avançados de IA, citando potenciais riscos biológicos, de cibersegurança e operacionais.
