Inalis ng Anthropic ang isang nakatagong sistema ng pagsubaybay mula sa Claude Code matapos matuklasan ng isang mananaliksik sa seguridad na ginagamit ng AI coding assistant ang mga hindi isiniwalat na pananda upang matukoy ang lokasyon ng ilang user, paggamit ng proxy, at posibleng koneksyon sa mga Chinese AI lab.
Ang tampok, na natuklasan noong Hunyo ng developer na "Thereallo," ay nagbaon ng mga signal sa mga system prompt ng Claude Code na maaaring mag-flag sa mga user na pinaniniwalaan ng Anthropic na lumalampas sa mga restriksyon o sumusubok na kumuha ng mga kakayahan ng modelo.
"Posibleng gusto ng Anthropic na matukoy ang mga reseller ng API, mga hindi awtorisadong gateway ng Claude Code, at mga pipeline ng 'distillation attack' ng modelo," isinulat ni Thereallo. "Ang isang custom na ANTHROPIC_BASE_URL na tumuturo sa isang kilalang domain ng reseller ay isang kapaki-pakinabang na signal. Ang isang hostname na naglalaman ng deepseek o zhipu ay isa ring kapaki-pakinabang na signal."
Sinabi ni Thereallo na may saysay ang pagtatangka ng Anthropic na matukoy ang mga reseller, mga hindi awtorisadong gateway ng Claude Code, at mga potensyal na pag-atake ng distillation, ngunit pinuna niya kung paano ito ginawa, na binanggit na itinago ng Claude Code ang mga signal ng pagsubaybay sa loob ng mga system prompt gamit ang mga pananda ng Unicode at mga naka-encode na listahan ng domain sa halip na isiniwalat ang sistema sa pamamagitan ng dokumentasyon o mga tala ng paglabas.
"Hindi ito isang malisyosong tampok, ngunit ito ay isang kakaibang pagpipilian para sa isang tool ng developer na humihingi ng tiwala," isinulat ni Thereallo.
Matapos ihayag ang tracker online, sinabi ng engineer ng Anthropic na si Thariq Shihipar sa X na ipinakilala ito noong Marso bilang isang "eksperimento" upang pigilan ang pag-abuso sa account ng mga hindi awtorisadong reseller at protektahan si Claude mula sa mga pag-atake ng distillation.
"Ang koponan ay nakakuha ng mas malalakas na mitigasyon simula noon at matagal na naming gustong tanggalin ito," isinulat ni Shihipar noong nakaraang linggo. "Pinagsama namin ang [pull request] at ito ay dapat na ganap na maibalik sa paglabas bukas."
Ang balita ay dumating habang pinalalakas ng Anthropic ang mga babala tungkol sa distillation ng modelo ng AI, kung saan ang mga output ng isang sistema ay ginagamit upang magsanay ng isa pang modelo. Bagama't karaniwan ang kasanayan sa pananaliksik ng AI, pagdating sa geopolitika, ang distillation ay nagiging isang pambansang pag-aalala sa seguridad. Mas maaga sa buwang ito, ipinagbawal ng Alibaba ang mga empleyado na gamitin ang Claude Code, na tinatawag ang tool na "high-risk" software dahil sa mga alalahanin sa seguridad.
Noong Pebrero, inakusahan ng Anthropic ang mga Chinese AI developer na DeepSeek, Moonshot AI, at MiniMax ng paggamit ng mga pekeng account upang kumuha ng milyun-milyong tugon ni Claude upang sanayin ang mga nakikipagkumpitensyang modelo. Ang mga pahayag ay umani ng pagtutol mula sa mga kritiko na nagtanong kung paano naiiba ang kasanayang ito sa mga pamamaraang ginagamit sa industriya ng AI.
Noong Abril, nagpatotoo si Elon Musk na "bahagyang" ginamit ng xAI ang mga modelo ng OpenAI habang sinasanay si Grok, na tinatawag ang distillation na isang mas malawak na kasanayan sa industriya. Noong Hunyo, hinimok ni Anthropic CEO Dario Amodei ang Kongreso na palakasin ang mga proteksyon laban sa pagkuha ng AI ng banyaga matapos akusahan ang mga operator na konektado sa Alibaba na nakabuo ng 28.8 milyong palitan ng Claude gamit ang halos 25,000 pekeng account.
Hindi agad tumugon ang Anthropic sa isang kahilingan para sa komento ng Decrypt.
