Anthropic appelle le Congrès à renforcer les protections contre la distillation de modèles d'IA après avoir affirmé que des opérateurs affiliés à Alibaba ont mené le plus grand effort connu pour extraire les capacités de son chatbot Claude.

Dans une lettre du 10 juin adressée au président du Comité sénatorial des banques, du logement et des affaires urbaines, Tim Scott, et à la membre de rang, Elizabeth Warren, Anthropic a allégué que des opérateurs affiliés à Alibaba et à son laboratoire d'IA Qwen ont généré plus de 28,8 millions d'échanges avec Claude entre le 22 avril et le 5 juin, en utilisant près de 25 000 « comptes frauduleux », c'est-à-dire ne représentant pas de vrais utilisateurs organiques.

Décrites comme une attaque par distillation, Anthropic a déclaré que les opérations ciblaient les capacités de raisonnement agentique, d'ingénierie logicielle et de planification à long terme de Claude, permettant aux concurrents de reproduire un comportement de modèle avancé sans le coût de l'entraînement d'un système d'IA de pointe.

« Au-delà de son ampleur, cette campagne était frappante par sa nature effrontée », a écrit Anthropic. « Alibaba est cotée à la Bourse de New York, maintient des opérations commerciales aux États-Unis et est responsable devant les investisseurs et les régulateurs américains. »

Anthropic a déclaré que la campagne dépassait les préoccupations liées à la propriété intellectuelle, qualifiant la distillation de modèles à grande échelle de problème de sécurité nationale susceptible d'accélérer les capacités militaires et cybernétiques d'IA de la Chine, tout en réduisant l'avance technologique des États-Unis.

La lettre intervient alors que Washington intensifie ses efforts pour protéger le leadership américain en matière d'IA. Plus tôt ce mois-ci, le président Donald Trump a signé un décret visant à étendre les initiatives de cybersécurité basées sur l'IA après avoir retardé la mesure en raison de craintes qu'elle puisse affaiblir la position concurrentielle de l'Amérique face à la Chine.

« Lorsque les laboratoires de la RPC distillent ces capacités à partir de modèles américains, ils capturent les retours sur les investissements américains sans en supporter les coûts ou les risques associés à l'entraînement des modèles d'IA de pointe », a écrit Anthropic. « Cela inverse la logique économique qui sous-tend le leadership américain en matière d'IA, transformant des milliards de dollars de recherche et développement, de calcul et d'autres investissements américains en une subvention pour nos concurrents. »

Anthropic a exhorté les législateurs à étendre le partage de renseignements entre les développeurs d'IA de pointe et le gouvernement américain, à clarifier les règles antitrust pour permettre aux entreprises d'IA de partager des informations sur les attaques par distillation, à renforcer les contrôles à l'exportation sur les puces d'IA avancées et le calcul, à combler les lacunes permettant aux entreprises chinoises d'accéder aux centres de données étrangers, et à imposer des sanctions aux entreprises responsables de l'extraction de modèles à grande échelle.

Un porte-parole d'Anthropic a refusé de commenter spécifiquement la lettre, mais a déclaré à Decrypt : « Nous pensons que la lutte contre la menace de distillation illicite nécessite une action coordonnée entre le gouvernement et l'industrie, et nous continuerons à travailler avec le Congrès et l'administration pour maintenir le leadership américain en matière d'IA. »

La lettre s'appuie également sur les affirmations d'Anthropic en février selon lesquelles les développeurs chinois d'IA DeepSeek, Moonshot AI et MiniMax ont généré plus de 16 millions d'échanges Claude en utilisant environ 24 000 comptes frauduleux.

Ces allégations ont suscité des critiques de la part d'observateurs qui ont fait valoir que les entreprises d'IA s'appuient sur des techniques similaires lors de l'entraînement de leurs propres systèmes. Anthropic a rétorqué que la distillation conventionnelle est une méthode légitime pour produire des modèles plus petits et moins chers, tandis que l'extraction non autorisée des capacités des modèles de pointe par un accès frauduleux viole ses conditions de service.

Le débat plus large sur la distillation est devenu plus complexe ces derniers mois. En avril, Elon Musk a témoigné devant un tribunal fédéral que xAI avait « partiellement » utilisé des modèles OpenAI lors de l'entraînement de Grok, soulignant que la distillation est une pratique industrielle établie, même si les entreprises contestent où se termine l'entraînement légitime des modèles et où commence l'extraction non autorisée des modèles.