एंथ्रोपिक कांग्रेस से एआई मॉडल डिस्टिलेशन के खिलाफ सुरक्षा मजबूत करने का आह्वान कर रहा है, यह दावा करते हुए कि अलीबाबा से जुड़े ऑपरेटरों ने उसके क्लाउड चैटबॉट से क्षमताओं को निकालने का अब तक का सबसे बड़ा ज्ञात प्रयास किया।

सीनेट बैंकिंग, हाउसिंग और शहरी मामलों की समिति के अध्यक्ष टिम स्कॉट और रैंकिंग सदस्य एलिजाबेथ वॉरेन को 10 जून को लिखे एक पत्र में, एंथ्रोपिक ने आरोप लगाया कि अलीबाबा और उसकी क्वेन एआई लैब से जुड़े ऑपरेटरों ने 22 अप्रैल से 5 जून के बीच क्लाउड के साथ 28.8 मिलियन से अधिक आदान-प्रदान किए, जिसमें लगभग 25,000 "फर्जी खातों" का उपयोग किया गया, यानी ऐसे खाते जो वास्तविक, जैविक उपयोगकर्ताओं का प्रतिनिधित्व नहीं करते थे।

डिस्टिलेशन अटैक के रूप में ज्ञात, एंथ्रोपिक ने कहा कि इन ऑपरेशनों ने क्लाउड की एजेंटिक रीजनिंग, सॉफ्टवेयर इंजीनियरिंग और लंबी-अवधि की योजना बनाने की क्षमताओं को लक्षित किया, जिससे प्रतिस्पर्धियों को एक सीमांत एआई प्रणाली को प्रशिक्षित करने की लागत के बिना उन्नत मॉडल व्यवहार को दोहराने की अनुमति मिली।

"अपने पैमाने से परे, यह अभियान अपनी बेशर्मी के लिए उल्लेखनीय था," एंथ्रोपिक ने लिखा। "अलीबाबा न्यूयॉर्क स्टॉक एक्सचेंज में सूचीबद्ध है, संयुक्त राज्य अमेरिका में व्यावसायिक संचालन बनाए रखता है, और अमेरिकी निवेशकों और नियामकों के प्रति जवाबदेह है।"

एंथ्रोपिक ने कहा कि यह अभियान बौद्धिक संपदा संबंधी चिंताओं से परे था, और बड़े पैमाने पर मॉडल डिस्टिलेशन को एक राष्ट्रीय सुरक्षा मुद्दा बताया जो चीन की सैन्य और साइबर एआई क्षमताओं को तेज कर सकता है जबकि संयुक्त राज्य अमेरिका की तकनीकी बढ़त को कम कर सकता है।

यह पत्र ऐसे समय में आया है जब वाशिंगटन अमेरिकी एआई नेतृत्व की रक्षा के प्रयासों को तेज कर रहा है। इस महीने की शुरुआत में, राष्ट्रपति डोनाल्ड ट्रंप ने एआई-संचालित साइबर सुरक्षा पहलों का विस्तार करने वाले एक कार्यकारी आदेश पर हस्ताक्षर किए थे, इस उपाय को इस चिंता के कारण विलंबित करने के बाद कि यह चीन के खिलाफ अमेरिका की प्रतिस्पर्धी स्थिति को कमजोर कर सकता है।

"जब पीआरसी लैब अमेरिकी मॉडलों से इन क्षमताओं को प्राप्त करती हैं, तो वे सीमांत एआई मॉडल को प्रशिक्षित करने से जुड़े लागतों या जोखिमों को वहन किए बिना अमेरिकी निवेशों पर लाभ प्राप्त करती हैं," एंथ्रोपिक ने लिखा। "यह उस आर्थिक तर्क को उलट देता है जो अमेरिकी एआई नेतृत्व को रेखांकित करता है, अरबों डॉलर के अनुसंधान और विकास, कंप्यूट और अन्य अमेरिकी निवेशों को हमारे प्रतिस्पर्धियों के लिए एक सब्सिडी में बदल देता है।"

एंथ्रोपिक ने सांसदों से सीमांत एआई डेवलपर्स और अमेरिकी सरकार के बीच खुफिया जानकारी साझा करने का विस्तार करने, डिस्टिलेशन हमलों के बारे में जानकारी साझा करने के लिए एआई कंपनियों को अनुमति देने हेतु अविश्वास नियमों को स्पष्ट करने, उन्नत एआई चिप्स और कंप्यूट पर निर्यात नियंत्रण मजबूत करने, चीनी फर्मों को विदेशी डेटा केंद्रों तक पहुंच की अनुमति देने वाले खामियों को बंद करने और बड़े पैमाने पर मॉडल निष्कर्षण के लिए जिम्मेदार कंपनियों पर दंड लगाने का आग्रह किया।

एंथ्रोपिक के एक प्रवक्ता ने पत्र पर विशेष रूप से टिप्पणी करने से इनकार कर दिया, लेकिन डिक्रिप्ट को बताया, "हमारा मानना है कि अवैध डिस्टिलेशन के खतरे से निपटने के लिए सरकार और उद्योग के बीच समन्वित कार्रवाई की आवश्यकता है, और हम अमेरिकी एआई नेतृत्व को बनाए रखने के लिए कांग्रेस और प्रशासन के साथ काम करना जारी रखेंगे।"

यह पत्र फरवरी में एंथ्रोपिक के दावों पर भी आधारित है कि चीनी एआई डेवलपर्स डीपसीक, मूनशॉट एआई और मिनिमैक्स ने लगभग 24,000 फर्जी खातों का उपयोग करके 16 मिलियन से अधिक क्लाउड आदान-प्रदान किए।

उन आरोपों ने उन पर्यवेक्षकों की आलोचना को आकर्षित किया जिन्होंने तर्क दिया कि एआई कंपनियां अपने स्वयं के सिस्टम को प्रशिक्षित करते समय समान तकनीकों पर निर्भर करती हैं। एंथ्रोपिक ने जवाब दिया है कि पारंपरिक डिस्टिलेशन छोटे, सस्ते मॉडल बनाने का एक वैध तरीका है, जबकि कपटपूर्ण पहुंच के माध्यम से सीमांत मॉडल क्षमताओं का अनधिकृत निष्कर्षण उसकी सेवा शर्तों का उल्लंघन करता है।

डिस्टिलेशन पर व्यापक बहस हाल के महीनों में और अधिक जटिल हो गई है। अप्रैल में, एलोन मस्क ने संघीय अदालत में गवाही दी कि xAI ने ग्रोक को प्रशिक्षित करते समय OpenAI मॉडल का "आंशिक रूप से" उपयोग किया था, यह रेखांकित करते हुए कि डिस्टिलेशन एक स्थापित उद्योग अभ्यास है – भले ही कंपनियां इस बात पर विवाद करती हैं कि वैध मॉडल प्रशिक्षण कहाँ समाप्त होता है और अनधिकृत मॉडल निष्कर्षण कहाँ से शुरू होता है।