एन्थ्रोपिक ने कहा है कि वह क्लाउड फेबल 5 और मिथोस 5 तक सार्वजनिक पहुंच बहाल करेगा, क्योंकि अमेरिकी अधिकारियों ने निर्यात प्रतिबंध हटा दिए हैं, जिसके कारण कंपनी के दो सबसे उन्नत एआई मॉडल 12 जून से ऑफलाइन थे।

एन्थ्रोपिक के अनुसार, यह निर्णय अमेरिकी सरकार के साथ "सार्थक बातचीत की एक श्रृंखला" के बाद आया, जिसके बाद कंपनी ने नए क्लासिफायर के साथ मॉडलों को पुनः तैनात करना शुरू कर दिया, जिन्हें अधिक साइबर सुरक्षा-संबंधी कार्यों की पहचान करने और उन्हें अवरुद्ध करने के लिए डिज़ाइन किया गया है।

कंपनी ने कहा कि नवीनतम सुरक्षा उपाय संभावित दुरुपयोग से संबंधित सरकारी चिंताओं को दूर करने के लिए हैं यदि सिस्टम को जेलब्रेक तरीकों से बायपास किया जाता है।

इन प्रतिबंधों ने Anthropic को इस महीने की शुरुआत में सभी उपयोगकर्ताओं के लिए फेबल 5 और मिथोस 5 तक पहुंच निलंबित करने के लिए मजबूर किया था, जब एक अमेरिकी सरकारी निर्यात नियंत्रण निर्देश ने कंपनी को सभी विदेशी नागरिकों के लिए दोनों मॉडलों को ब्लॉक करने का निर्देश दिया था। 

अपने 13 जून के बयान में, Anthropic ने कहा कि इस आदेश में कंपनी के भीतर काम करने वाले विदेशी-राष्ट्रीय कर्मचारी भी शामिल थे, जिससे उसे अनुपालन सुनिश्चित करने के लिए मॉडलों को पूरी तरह से निष्क्रिय करना पड़ा।

अमेरिकी सरकार ने समीक्षा के बाद पुनः तैनाती को मंजूरी दी

अमेरिकी वाणिज्य सचिव हॉवर्ड लटनिक ने बुधवार को X पर कहा कि अधिकारियों ने पिछले दो हफ्तों से Anthropic के साथ मिलकर फेबल 5 की समीक्षा और अनुमोदन पर काम किया है, जबकि मॉडल को अमेरिकी सरकार की आवश्यकताओं के अनुरूप रखा गया है।

व्हाइट हाउस की चीफ ऑफ स्टाफ सूज़ी वाइल्स ने भी X पर कहा कि सरकार की प्राथमिकता सर्वश्रेष्ठ एआई तकनीक को "जितनी जल्दी और सुरक्षित रूप से संभव हो" तैनात करना था।

यह हस्तक्षेप तब आया जब अधिकारियों को एक रिपोर्ट के बारे में पता चला जिसमें अमेज़न के शोधकर्ताओं ने फेबल 5 के सुरक्षा उपायों को बायपास करने और मॉडल को सॉफ्टवेयर कमजोरियों की पहचान करने का एक तरीका खोजा था। 

हालांकि, Anthropic ने तर्क दिया है कि रिपोर्ट किया गया मुद्दा फेबल 5 के लिए अद्वितीय नहीं था, यह कहते हुए कि कमजोर मॉडल भी समान कमजोरियों की पहचान कर सकते हैं और समान एक्सप्लॉइट-संबंधी आउटपुट उत्पन्न कर सकते हैं।

आदेश पर अपनी पिछली प्रतिक्रिया में, कंपनी ने कहा कि अधिकारियों ने केवल मौखिक सबूत पेश किए थे जिसे उसने एक संकीर्ण, गैर-सार्वभौमिक जेलब्रेक के रूप में वर्णित किया था। Anthropic ने कहा कि ऐसा तरीका एक व्यापक जेलब्रेक के विपरीत, कार्यों की एक विस्तृत श्रृंखला में मॉडल की सुरक्षा सुरक्षा को नहीं हटाता है।

“हम इस बात से असहमत हैं कि एक संकीर्ण संभावित जेलब्रेक की खोज सैकड़ों लाखों लोगों को तैनात किए गए एक वाणिज्यिक मॉडल को वापस बुलाने का कारण होनी चाहिए। यदि यह मानक पूरे उद्योग में लागू किया जाता है, तो हमारा मानना है कि यह सभी फ्रंटियर मॉडल प्रदाताओं के लिए सभी नई मॉडल तैनाती को अनिवार्य रूप से रोक देगा।”

कंपनी ने यह भी चेतावनी दी थी कि एक संकीर्ण जेलब्रेक को एक वाणिज्यिक फ्रंटियर मॉडल को वापस बुलाने का कारण मानना पूरे एआई उद्योग को प्रभावित कर सकता है यदि इसे एक सामान्य मानक के रूप में लागू किया जाता है।

Anthropic पर प्रतिबंधों ने संयुक्त राज्य अमेरिका के बाहर भी नीतिगत चिंताएं बढ़ाई हैं। 29 जून को, ऑस्ट्रिया ने यूरोपीय संघ से ब्लॉक के भीतर Anthropic स्थापित करने पर विचार करने का आग्रह किया, जिसमें डिजिटलीकरण के राज्य सचिव अलेक्जेंडर प्रोएल ने एक पत्र में तर्क दिया कि यूरोप को कहीं और लिए गए निर्णयों के कारण प्रमुख एआई प्रगति तक पहुंच खोने का जोखिम नहीं उठाना चाहिए।

Anthropic एआई सुरक्षा पर सहयोग का विस्तार करता है

मॉडल की पुनः तैनाती के साथ, Anthropic ने कहा कि वह मॉडल परीक्षण, सुरक्षा उपायों और दुरुपयोग पर नज़र रखने पर अमेरिकी सरकार के साथ सहयोग बढ़ा रहा है। कंपनी ने कहा कि इसमें मूल्यांकन के लिए मॉडलों और सुरक्षा प्रणालियों तक प्री-रिलीज़ एक्सेस, जेलब्रेक और दुरुपयोग पर जानकारी साझा करना, और संयुक्त अनुसंधान के लिए समर्पित संसाधन शामिल होंगे।

Anthropic ने अमेज़न, माइक्रोसॉफ्ट, गूगल और अन्य भागीदारों के साथ प्रोजेक्ट ग्लासिंग के माध्यम से एक रूपरेखा का मसौदा तैयार करना भी शुरू कर दिया है, जो अप्रैल में घोषित एक साइबर सुरक्षा सहयोग है, ताकि एआई जेलब्रेक की गंभीरता का आकलन किया जा सके। कंपनी ने कहा कि यह रूपरेखा जेलब्रेक जोखिमों के वर्गीकरण के लिए एक आम सहमति के प्रयास के रूप में विकसित की जा रही है।

पहुंच पर बहस तब हुई जब Anthropic ने सख्त फ्रंटियर एआई निगरानी के लिए अपना प्रयास जारी रखा। अपने 11 जून के "एआई एक्सपोनेंशियल पर नीति" प्रस्ताव में, कंपनी ने संभावित जैविक, साइबर सुरक्षा और परिचालन जोखिमों का हवाला देते हुए, उन्नत एआई प्रणालियों के लिए परीक्षण आवश्यकताओं, स्वतंत्र मूल्यांकन, साइबर सुरक्षा मानकों और प्रवर्तन उपायों का आह्वान किया।