Anthropic mendesak Kongres untuk memperkuat perlindungan terhadap distilasi model AI setelah mengklaim bahwa operator yang terafiliasi dengan Alibaba melakukan upaya terbesar yang diketahui untuk mengekstrak kemampuan dari chatbot Claude miliknya.
Dalam surat tertanggal 10 Juni kepada Ketua Komite Perbankan, Perumahan, dan Urusan Perkotaan Senat Tim Scott dan Anggota Peringkat Elizabeth Warren, Anthropic menuduh bahwa operator yang terafiliasi dengan Alibaba dan laboratorium AI Qwen miliknya menghasilkan lebih dari 28,8 juta pertukaran dengan Claude antara 22 April dan 5 Juni menggunakan hampir 25.000 “akun palsu,” atau akun yang tidak mewakili pengguna nyata dan organik.
Dikenal sebagai serangan distilasi, Anthropic mengatakan operasi tersebut menargetkan kemampuan penalaran agentik Claude, rekayasa perangkat lunak, dan perencanaan jangka panjang, memungkinkan pesaing untuk mereproduksi perilaku model canggih tanpa biaya melatih sistem AI perbatasan.
“Selain skalanya, kampanye ini mencolok karena sifatnya yang terang-terangan,” tulis Anthropic. “Alibaba terdaftar di Bursa Efek New York, mempertahankan operasi bisnis di Amerika Serikat, dan bertanggung jawab kepada investor dan regulator AS.”
Anthropic mengatakan kampanye tersebut melampaui masalah kekayaan intelektual, membingkai distilasi model skala besar sebagai masalah keamanan nasional yang dapat mempercepat kemampuan AI militer dan siber Tiongkok sambil mempersempit keunggulan teknologi Amerika Serikat.
Surat tersebut datang saat Washington mengintensifkan upaya untuk melindungi kepemimpinan AI AS. Awal bulan ini, Presiden Donald Trump menandatangani perintah eksekutif yang memperluas inisiatif keamanan siber bertenaga AI setelah menunda tindakan tersebut karena kekhawatiran bahwa hal itu dapat melemahkan posisi kompetitif Amerika melawan Tiongkok.
“Ketika laboratorium RRT mengekstrak kemampuan ini dari model AS, mereka mendapatkan keuntungan dari investasi Amerika tanpa menanggung biaya atau risiko yang terkait dengan pelatihan model AI perbatasan,” tulis Anthropic. “Ini membalik logika ekonomi yang mendasari kepemimpinan AI Amerika, mengubah investasi riset dan pengembangan, komputasi, dan investasi AS lainnya senilai miliaran dolar menjadi subsidi bagi pesaing kami.”
Anthropic mendesak para legislator untuk memperluas berbagi informasi intelijen antara pengembang AI perbatasan dan pemerintah AS, memperjelas aturan antimonopoli untuk memungkinkan perusahaan AI berbagi informasi tentang serangan distilasi, memperketat kontrol ekspor pada chip dan komputasi AI canggih, menutup celah yang memungkinkan perusahaan Tiongkok mengakses pusat data luar negeri, dan menjatuhkan sanksi pada perusahaan yang bertanggung jawab atas ekstraksi model skala besar.
Seorang juru bicara Anthropic menolak berkomentar secara spesifik tentang surat tersebut, tetapi mengatakan kepada Decrypt, "Kami percaya memerangi ancaman distilasi ilegal memerlukan tindakan terkoordinasi antara pemerintah dan industri, dan kami akan terus bekerja sama dengan Kongres dan pemerintah untuk mempertahankan kepemimpinan AI Amerika."
Surat tersebut juga mengacu pada klaim Anthropic pada bulan Februari bahwa pengembang AI Tiongkok DeepSeek, Moonshot AI, dan MiniMax menghasilkan lebih dari 16 juta pertukaran Claude menggunakan sekitar 24.000 akun palsu.
Tuduhan tersebut menuai kritik dari pengamat yang berpendapat bahwa perusahaan AI mengandalkan teknik serupa saat melatih sistem mereka sendiri. Anthropic menanggapi bahwa distilasi konvensional adalah metode yang sah untuk menghasilkan model yang lebih kecil dan lebih murah, sedangkan ekstraksi tidak sah dari kemampuan model perbatasan melalui akses palsu melanggar ketentuan layanannya.
Perdebatan yang lebih luas mengenai distilasi telah menjadi lebih rumit dalam beberapa bulan terakhir. Pada bulan April, Elon Musk bersaksi di pengadilan federal bahwa xAI "sebagian" menggunakan model OpenAI saat melatih Grok, menggarisbawahi bahwa distilasi adalah praktik industri yang mapan—meskipun perusahaan berselisih di mana pelatihan model yang sah berakhir dan ekstraksi model tidak sah dimulai.
