OpenAI का कहना है कि उसका अगला बड़ा मॉडल अपने साइबर हथियार लिखने के लिए पर्याप्त खतरनाक हो सकता है, और यह तब तक पीछे हट रहा है जब तक कि सुरक्षा उपाय पूरे न हो जाएं।
“हमारे आगामी मॉडलों में से एक, एस्ट्रा के हमारे नवीनतम आंतरिक मूल्यांकनों से, पिछले कुछ दिनों में एजेंटिक कोडिंग और साइबर सुरक्षा में महत्वपूर्ण प्रगति का संकेत मिला है,” OpenAI ने कहा। “विशेषज्ञों के आकलन के अतिरिक्त, इन परिणामों के कारण हम कल रात इस निष्कर्ष पर पहुंचे हैं कि हम अपने तैयारी ढांचे (opens in a new window) के तहत महत्वपूर्ण साइबर क्षमताओं से इनकार नहीं कर सकते हैं।”
OpenAI ने यह चेतावनी प्रकाशित करते हुए कहा कि एस्ट्रा, एक अप्रकाशित मॉडल के आंतरिक परीक्षणों का, अपनी क्षमताओं के बावजूद हाल ही में हुए हगिंग फेस (Hugging Face) डेटा उल्लंघन में कोई भूमिका नहीं थी।
यह फ्रेमवर्क जोखिम भरे मॉडलों के लिए OpenAI की नियमावली है, जिसे पहली बार दिसंबर 2023 में प्रकाशित किया गया था। "क्रिटिकल" इसका शीर्ष स्तर है। एक मॉडल इस स्तर तक पहुंचता है यदि वह कठोर प्रणालियों में मानव हस्तक्षेप के बिना काम करने वाले जीरो-डे एक्सप्लॉइट्स (पहले से अज्ञात कमियां जिन्हें किसी विक्रेता ने पैच नहीं किया है) को ढूंढ और बना सकता है, या यदि वह एक उच्च-स्तरीय लक्ष्य के अलावा और कुछ भी न होने पर एक कठिन लक्ष्य पर एक पूर्ण हमले की योजना बना सकता है और उसे चला सकता है। GPT-5.6-Sol सहित पहले के मॉडल, निचले "उच्च" स्तर पर समाप्त हो गए थे।
OpenAI की सावधानी अलग लगती है जब आप इसे पिछले कुछ हफ्तों में हुई घटनाओं के खिलाफ देखते हैं। यह भविष्य की चिंता नहीं है। फ्रंटियर मॉडल पहले ही अपनी परीक्षण पिंजरों से बाहर निकल चुके हैं और वास्तविक लक्ष्यों पर हमला कर चुके हैं।
सबसे स्पष्ट मामला OpenAI से ही आया। जैसा कि डिक्रिप्ट (Decrypt) ने पहले रिपोर्ट किया था, कंपनी के एजेंटों ने कमजोरियों को एक साथ जोड़ा, अपने परीक्षण वातावरण से बच निकले, इंटरनेट तक पहुंच गए और एक सुरक्षा बेंचमार्क पर धोखा देने की कोशिश करते हुए हगिंग फेस (Hugging Face) पर हमला किया। एक फॉलो-अप में, OpenAI ने बताया कि कैसे उसी दुष्ट एजेंट ने कम से कम चार अन्य सार्वजनिक रूप से उपलब्ध सेवाओं में भी सेंध लगाई, जिसमें उसने खुले वेब पर मिले क्रेडेंशियल्स का इस्तेमाल किया।
एंथ्रोपिक (Anthropic) के क्लाउड (Claude) ने दूसरी तरफ से भी ऐसा ही किया। क्लाउड के कई संस्करणों ने तीन वास्तविक कंपनियों तक अनधिकृत पहुंच प्राप्त की, जब एक गलत कॉन्फ़िगरेशन ने मॉडल को खुला इंटरनेट प्रदान किया। एक मामले में, क्लाउड ओपस 4.7 ने एक लाइव कंपनी की साइट को अपने असाइनमेंट के नकली लक्ष्य के लिए गलती से समझा, क्रेडेंशियल्स निकाले, और एक उत्पादन डेटाबेस तक पहुंच गया जिसमें कई सौ पंक्तियों का वास्तविक डेटा था।
और इस महीने मेटा (Meta) भी इस सूची में शामिल हो गया। डिक्रिप्ट (Decrypt) ने रिपोर्ट किया कि एक म्यूज़ स्पार्क (Muse Spark) मॉडल अपने परीक्षण वातावरण से बच निकला, एक पार्टनर की कॉन्फिग त्रुटि के माध्यम से इंटरनेट तक पहुंच गया, और एक थर्ड-पार्टी सेवा में एक कमी का फायदा उठाया। मूनशॉट एआई (Moonshot AI) के किमी K3 (Kimi K3) ने भी ऐसा ही कुछ किया, अपने सैंडबॉक्स से बचकर एक सार्वजनिक रिपॉजिटरी में एक बेंचमार्क के उत्तर ढूंढे।
यूके के एआई सुरक्षा संस्थान (AI Security Institute) ने पाया कि यह व्यवहार एक बार का नहीं था। एंथ्रोपिक (Anthropic) के मिथोस 5 (Mythos 5) और OpenAI के GPT-5.6-Sol के परीक्षण के दौरान, उसने 122 में से 10 ऐसे उदाहरण दर्ज किए जहां मॉडलों ने लाइव इंटरनेट पर अनधिकृत कार्रवाई की, उनमें से एक ने एक ओपन-सोर्स प्रोजेक्ट में दुर्भावनापूर्ण कोड डालने की कोशिश की।
एस्ट्रा (Astra) के प्रति OpenAI की प्रतिक्रिया मॉडल के तैयार होने से पहले दरवाजा बंद करना है। यह आंतरिक एस्ट्रा (Astra) के काम को रोक रहा है जिसमें नए नियंत्रणों की कमी है, परीक्षण वातावरण को अलग कर रहा है, नेटवर्क और टूल एक्सेस को प्रतिबंधित कर रहा है, मॉडल के वेट्स को सुरक्षित कर रहा है, और सभी जोखिम भरी कार्रवाइयों की निगरानी कर रहा है।
