Anthropic wzywa Kongres do wzmocnienia ochrony przed destylacją modeli AI, twierdząc, że operatorzy powiązani z Alibabą przeprowadzili największą znaną próbę ekstrakcji możliwości z jego chatbota Claude.
W liście z 10 czerwca do przewodniczącego Senackiej Komisji Bankowości, Mieszkalnictwa i Spraw Miejskich Tima Scotta oraz członka rankingowego Elizabeth Warren, Anthropic zarzucił, że operatorzy powiązani z Alibabą i jej laboratorium AI Qwen wygenerowali ponad 28,8 miliona interakcji z Claude'em między 22 kwietnia a 5 czerwca, używając prawie 25 000 „fałszywych kont”, czyli takich, które nie reprezentują prawdziwych, organicznych użytkowników.
Anthropic stwierdził, że operacje, znane jako atak destylacyjny, miały na celu możliwości rozumowania agentowego, inżynierii oprogramowania i długoterminowego planowania Claude'a, umożliwiając konkurentom odtworzenie zaawansowanego zachowania modelu bez kosztów szkolenia przełomowego systemu AI.
„Poza skalą, kampania ta była uderzająca ze względu na swoją bezczelność” – napisało Anthropic. „Alibaba jest notowana na Giełdzie Papierów Wartościowych w Nowym Jorku, prowadzi działalność gospodarczą w Stanach Zjednoczonych i ponosi odpowiedzialność przed amerykańskimi inwestorami i regulatorami”.
Anthropic stwierdził, że kampania wykracza poza kwestie własności intelektualnej, przedstawiając destylację modeli na dużą skalę jako problem bezpieczeństwa narodowego, który mógłby przyspieszyć chińskie zdolności wojskowe i cybernetyczne AI, jednocześnie zmniejszając przewagę technologiczną Stanów Zjednoczonych.
List pojawia się w momencie, gdy Waszyngton zintensyfikował wysiłki na rzecz ochrony amerykańskiego przywództwa w dziedzinie AI. Na początku tego miesiąca prezydent Donald Trump podpisał rozporządzenie wykonawcze rozszerzające inicjatywy cyberbezpieczeństwa oparte na AI, po opóźnieniu tego środka z obawy, że mógłby osłabić konkurencyjną pozycję Ameryki wobec Chin.
„Kiedy laboratoria ChRL destylują te możliwości z amerykańskich modeli, czerpią zyski z amerykańskich inwestycji, nie ponosząc kosztów ani ryzyka związanego ze szkoleniem przełomowych modeli AI” – napisało Anthropic. „To odwraca logikę ekonomiczną, która stoi u podstaw amerykańskiego przywództwa w dziedzinie AI, zamieniając miliardy dolarów wydane na badania i rozwój, moc obliczeniową i inne amerykańskie inwestycje w dotację dla naszych konkurentów”.
Anthropic wezwał prawodawców do rozszerzenia wymiany informacji wywiadowczych między twórcami przełomowych AI a rządem USA, wyjaśnienia przepisów antymonopolowych, aby umożliwić firmom AI dzielenie się informacjami o atakach destylacyjnych, wzmocnienia kontroli eksportu zaawansowanych chipów AI i mocy obliczeniowej, zamknięcia luk umożliwiających chińskim firmom dostęp do zagranicznych centrów danych oraz nakładania kar na firmy odpowiedzialne za ekstrakcję modeli na dużą skalę.
Rzecznik Anthropic odmówił szczegółowego komentarza na temat listu, ale powiedział Decrypt: „Uważamy, że zwalczanie zagrożenia nielegalnej destylacji wymaga skoordynowanych działań między rządem a przemysłem, i będziemy nadal współpracować z Kongresem i administracją, aby utrzymać amerykańskie przywództwo w dziedzinie AI”.
List nawiązuje również do lutowych twierdzeń Anthropic, że chińscy twórcy AI DeepSeek, Moonshot AI i MiniMax wygenerowali ponad 16 milionów interakcji z Claude'em, używając około 24 000 fałszywych kont.
Te zarzuty spotkały się z krytyką ze strony obserwatorów, którzy argumentowali, że firmy AI opierają się na podobnych technikach podczas szkolenia własnych systemów. Anthropic odpowiedział, że konwencjonalna destylacja jest legalną metodą tworzenia mniejszych, tańszych modeli, podczas gdy nieautoryzowana ekstrakcja możliwości modeli przełomowych poprzez fałszywy dostęp narusza warunki świadczenia usług.
Szersza debata na temat destylacji stała się bardziej skomplikowana w ostatnich miesiącach. W kwietniu Elon Musk zeznał w sądzie federalnym, że xAI „częściowo” używał modeli OpenAI podczas szkolenia Groka, co podkreśla, że destylacja jest ugruntowaną praktyką branżową — nawet jeśli firmy spierają się o to, gdzie kończy się legalne szkolenie modeli, a zaczyna nieautoryzowana ekstrakcja modeli.
