A Anthropic está pedindo ao Congresso que fortaleça as proteções contra a destilação de modelos de IA, após alegar que operadores afiliados à Alibaba realizaram o maior esforço conhecido para extrair capacidades de seu chatbot Claude.
Em uma carta de 10 de junho ao Presidente do Comitê de Bancos, Habitação e Assuntos Urbanos do Senado, Tim Scott, e à Membro Graduada Elizabeth Warren, a Anthropic alegou que operadores afiliados à Alibaba e seu laboratório de IA Qwen geraram mais de 28,8 milhões de interações com o Claude entre 22 de abril e 5 de junho, usando cerca de 25.000 “contas fraudulentas”, ou seja, contas que não representam usuários reais e orgânicos.
Conhecida como um ataque de destilação, a Anthropic afirmou que as operações visaram o raciocínio agentico, a engenharia de software e as capacidades de planejamento de longo prazo do Claude, permitindo que concorrentes reproduzissem o comportamento avançado do modelo sem o custo de treinar um sistema de IA de fronteira.
“Além de sua escala, esta campanha foi marcante por sua natureza descarada”, escreveu a Anthropic. “A Alibaba está listada na Bolsa de Valores de Nova York, mantém operações comerciais nos Estados Unidos e é responsável perante investidores e reguladores dos EUA.”
A Anthropic disse que a campanha foi além das preocupações com propriedade intelectual, enquadrando a destilação de modelos em larga escala como uma questão de segurança nacional que poderia acelerar as capacidades militares e cibernéticas de IA da China, ao mesmo tempo em que diminuiria a liderança tecnológica dos Estados Unidos.
A carta surge no momento em que Washington intensifica os esforços para proteger a liderança dos EUA em IA. No início deste mês, o Presidente Donald Trump assinou uma ordem executiva expandindo as iniciativas de cibersegurança impulsionadas por IA, após adiar a medida por preocupações de que isso pudesse enfraquecer a posição competitiva da América em relação à China.
“Quando laboratórios da RPC destilam essas capacidades de modelos dos EUA, eles capturam os retornos sobre investimentos americanos sem suportar os custos ou riscos associados ao treinamento de modelos de IA de fronteira”, escreveu a Anthropic. “Isso inverte a lógica econômica que sustenta a liderança americana em IA, transformando bilhões de dólares em pesquisa e desenvolvimento, poder computacional e outros investimentos dos EUA em um subsídio para nossos concorrentes.”
A Anthropic pediu aos legisladores que expandam o compartilhamento de inteligência entre desenvolvedores de IA de fronteira e o governo dos EUA, esclareçam as regras antitruste para permitir que empresas de IA compartilhem informações sobre ataques de destilação, fortaleçam os controles de exportação sobre chips e poder computacional avançados de IA, fechem lacunas que permitem que empresas chinesas acessem centros de dados no exterior e imponham penalidades a empresas responsáveis pela extração de modelos em larga escala.
Um porta-voz da Anthropic recusou-se a comentar especificamente sobre a carta, mas disse ao Decrypt: "Acreditamos que o combate à ameaça de destilação ilícita requer ação coordenada entre o governo e a indústria, e continuaremos trabalhando com o Congresso e a administração para manter a liderança americana em IA."
A carta também se baseia nas alegações da Anthropic em fevereiro de que os desenvolvedores chineses de IA DeepSeek, Moonshot AI e MiniMax geraram mais de 16 milhões de interações com o Claude usando aproximadamente 24.000 contas fraudulentas.
Essas alegações geraram críticas de observadores que argumentaram que as empresas de IA dependem de técnicas semelhantes ao treinar seus próprios sistemas. A Anthropic rebateu que a destilação convencional é um método legítimo para produzir modelos menores e mais baratos, enquanto a extração não autorizada de capacidades de modelos de fronteira através de acesso fraudulento viola seus termos de serviço.
O debate mais amplo sobre a destilação tornou-se mais complicado nos últimos meses. Em abril, Elon Musk testemunhou em tribunal federal que a xAI havia usado "parcialmente" modelos da OpenAI durante o treinamento do Grok, ressaltando que a destilação é uma prática estabelecida na indústria – mesmo que as empresas discordem sobre onde termina o treinamento legítimo de modelos e começa a extração não autorizada de modelos.
