फाइनेंशियल टाइम्स ने गुरुवार को रिपोर्ट किया कि एंथ्रोपिक ने नेशनल सिक्योरिटी एजेंसी के भीतर लगभग छह इंजीनियरों को नियुक्त किया है ताकि मिथोस—जो उसका सबसे सक्षम AI मॉडल है—को आक्रामक साइबर ऑपरेशनों के लिए तैनात करने में मदद मिल सके।

इंजीनियर अग्रिम-तैनात कर्मचारी हैं, जो विशिष्ट अनुप्रयोगों के लिए मॉडल को अनुकूलित कर रहे हैं। एक सूत्र ने फाइनेंशियल टाइम्स को बताया कि यह चीन और ईरान जैसे देशों में नेटवर्क में घुसपैठ करने के लिए उपयोगी हो सकता है।

क्या वे इंजीनियर सक्रिय ऑपरेशनों में शामिल हैं, इसकी पुष्टि नहीं हुई है। जो पुष्टि हुई है वह यह है: मिथोस वही मॉडल है जिसे एंथ्रोपिक ने दुरुपयोग के जोखिम का हवाला देते हुए सार्वजनिक रूप से जारी करने से इनकार कर दिया है। कंपनी ने इसे प्रोजेक्ट ग्लासिंग के माध्यम से सत्यापित भागीदारों तक सीमित कर दिया है—एक प्रतिबंधित गठबंधन जिसमें माइक्रोसॉफ्ट, ऐप्पल और अमेज़ॅन शामिल हैं।

एंथ्रोपिक पेंटागन पर भी मुकदमा कर रहा है। फरवरी के अंत में, रक्षा सचिव पीट हेगसेथ ने कंपनी को एक सप्लाई-चेन जोखिम के रूप में नामित किया था—यह एक ऐसा लेबल है जो ऐतिहासिक रूप से हुआवेई जैसे विदेशी विरोधियों के लिए आरक्षित था—जब $200 मिलियन का अनुबंध टूट गया। विवाद का कारण: एंथ्रोपिक ने DoD को क्लाउड का उपयोग पूरी तरह से स्वायत्त हथियारों या घरेलू बड़े पैमाने पर निगरानी के लिए करने देने से इनकार कर दिया था। NSA का अनुबंध उस प्रतिबंध से मुक्त था।

एक कैलिफ़ोर्निया के न्यायाधीश ने ब्लैकलिस्टिंग को प्रथम संशोधन के स्पष्ट प्रतिशोध के रूप में रोक दिया। एक D.C. अपील अदालत ने मुकदमेबाजी के दौरान इसे रोकने के एंथ्रोपिक के अनुरोध को खारिज कर दिया। फाइनेंशियल टाइम्स की रिपोर्ट के अनुसार, NSA पूरे समय मिथोस का उपयोग करता रहा।

उस AI को कैसे रोकें जो स्वयं AI बनाता है

जिस दिन NSA की कहानी सामने आई, उसी दिन एंथ्रोपिक के आंतरिक शोध संस्थान ने 'व्हेन AI बिल्ड्स इटसेल्फ' (जब AI स्वयं का निर्माण करता है) प्रकाशित किया, जिसमें यह बताया गया कि क्लाउड ने अपने स्वयं के विकास को स्वचालित करने में कितनी प्रगति की है। इसमें, कंपनी AI हथियारों की दौड़ में अनिवार्य रूप से एक वैश्विक स्थगन की वकालत करती है—और इसकी तुलना शीत युद्ध-युग की परमाणु संधियों से भी की, जो संयुक्त राज्य अमेरिका और रूस के बीच हुई थीं।

यह समझने के लिए कि ऐसा क्यों है, कंपनी ने यह संदर्भ प्रदान किया:

क्लाउड अब एंथ्रोपिक के प्रोडक्शन कोडबेस में मर्ज किए गए 80% से अधिक कोड लिखता है—जो 2025 की शुरुआत में क्लाउड कोड लॉन्च होने से पहले कम एकल अंकों में था। इंजीनियर 2024 की तुलना में प्रति दिन लगभग आठ गुना अधिक कोड भेजते हैं।

रिपोर्ट के लेखक—एंथ्रोपिक इंस्टीट्यूट की प्रमुख मरीना फ़वारो और सह-संस्थापक जैक क्लार्क—का तर्क है कि यह प्रक्षेपवक्र उस दिशा में बढ़ रहा है जिसे वे पुनरावर्ती आत्म-सुधार कहते हैं: AI सिस्टम जो स्वायत्त रूप से अपने स्वयं के उत्तराधिकारियों को डिज़ाइन, निर्मित और प्रशिक्षित करते हैं, जिसमें मनुष्य हर कदम पर घटती हुई भूमिका निभाते हैं।

एक दृश्य प्रस्तुति में, शोधकर्ता एक समयरेखा दिखाते हैं जिसमें काम पर AI का उपयोग करने का पहला तरीका मनुष्यों द्वारा कंप्यूटर को परिणाम प्राप्त करने के लिए संकेत देना था, जिसमें बढ़ते स्वचालन AI एजेंट्स को उप-एजेंट्स को संकेत देने में समाप्त होता है जब तक कि परिणाम प्राप्त नहीं हो जाता, जिसमें कोई मानव शामिल नहीं होता।

सबसे महत्वपूर्ण डेटा बिंदु जिसका वे हवाला देते हैं: अप्रैल में, क्लाउड एजेंट्स को एक खुली AI सुरक्षा समस्या दी गई थी—कि क्या एक कमजोर मॉडल मज़बूती से एक मजबूत मॉडल की निगरानी कर सकता है—और इसे चलाने के लिए छोड़ दिया गया। लगभग एक सप्ताह में दो मानव शोधकर्ताओं ने मॉडलों के बीच प्रदर्शन अंतर का 23% ठीक किया। एजेंट्स ने 800 से अधिक संचयी कंप्यूट घंटों में 97% ठीक किया। मनुष्यों ने प्रश्न निर्धारित किया। एजेंट्स ने हर प्रयोग को डिज़ाइन किया। यह क्लाउड के अनुसंधान निर्णय का प्रयोग करने का पहला प्रकाशित मामला है, न कि केवल किसी और द्वारा निर्दिष्ट कार्यों को निष्पादित करने का।

यही वह सीमा है जिसे पार करने के बारे में एंथ्रोपिक चिंतित है। एक बार जब AI यह चुनना शुरू कर देता है कि कौन से प्रयोग चलाने लायक हैं—न कि केवल उन्हें चलाता है—तो मनुष्य विकास चक्र में अपनी अंतिम सार्थक भूमिका खो देते हैं। आज के मॉडलों में दिखने वाली छोटी-मोटी विसंगतियाँ स्वयं-सुधारने वाली पीढ़ियों में तब तक बढ़ती जा सकती हैं जब तक कि कोई उन्हें ठीक नहीं कर पाता।

उनका प्रस्तावित समाधान एक सत्यापन योग्य वैश्विक विराम है—कई अग्रणी प्रयोगशालाओं का एक साथ रुकना, इस बात के स्वतंत्र सत्यापन के साथ कि हर कोई वास्तव में रुक गया। एंथ्रोपिक ने कहा कि वह इसमें शामिल होगा। वे स्वीकार करते हैं कि एकतरफा धीमी गति केवल उस व्यक्ति को बढ़त दिलाएगी जो आगे बढ़ता रहा।

हमने यह फिल्म पहले भी देखी है। AI का निर्माण करने वाली प्रयोगशालाएँ वही हैं जो AI कितना खतरनाक है, इसकी चेतावनी दे रही हैं। हालांकि, AI इस दशक का सबसे लाभदायक व्यवसाय है, इसलिए कोई भी रुकना नहीं चाहता—AI के बारे में चेतावनी देने वाले भी नहीं।

2023 में, AI अनुसंधान समुदाय के सौ से अधिक बड़े नामों ने एक खुले पत्र पर हस्ताक्षर किए थे, जिसमें AI विकास में निहित विलुप्त होने के जोखिम को कम करने के लिए एक वैश्विक प्रयास का आह्वान किया गया था। उससे कुछ महीने पहले, एक और खुले पत्र में OpenAI से ChatGPT पर अपनी प्रगति को उसकी खतरनाक प्रकृति के कारण रोकने की मांग की गई थी।

2023 के खुले पत्र के बाद कोई नहीं रुका। OpenAI नहीं रुका। एंथ्रोपिक नहीं रुका। पेंटागन द्वारा क्लाउड को अपने सिस्टम से हटाने की समय सीमा अगस्त में है, लगभग उसी समय एंथ्रोपिक का IPO अपने वित्त को सार्वजनिक दायरे में लाने की उम्मीद है।