OpenAI के मुख्य वैज्ञानिक याकूब पचॉकी ने AI विकास में स्वैच्छिक रूप से गति धीमी करने का आह्वान किया है, चेतावनी दी है कि किसी भी लैब के सुरक्षा उपाय अब और अधिक शक्तिशाली सिस्टम को पूरी गति से बनाने के लिए पर्याप्त नहीं हैं।

रविवार को प्रकाशित अपने पोस्ट “एन एलियन माइंड” (An Alien Mind) में, पचॉकी ने तर्क दिया कि कंपनियों की स्वैच्छिक प्रतिबद्धताओं को अनिवार्य सुरक्षा मानक बनना चाहिए, जिन्हें स्वतंत्र लेखा परीक्षकों, सरकारों या अंतर्राष्ट्रीय निकायों द्वारा लागू किया जाए। उन्होंने कहा कि OpenAI आवश्यकता पड़ने पर आगे के विस्तार को रोकेगी, लेकिन उन्होंने कोई नया विराम घोषित नहीं किया।

उन्होंने लिखा, “वर्तमान में मेरा मानना है कि किसी भी लैब ने अधिकतम गति से जिम्मेदारी से स्केलिंग जारी रखने के लिए संरेखण (alignment) और निगरानी को पर्याप्त हद तक हल नहीं किया है।” “मुझे उम्मीद है कि साझा सुरक्षा मानकों की स्थापना होने तक स्वैच्छिक रूप से गति धीमी करना आम हो जाएगा।”

पचॉकी, जो 2017 में OpenAI से जुड़े थे, ने बुनियादी ढांचे को सुरक्षित करने और दुष्ट एजेंटों से बचाने के लिए अधिक शक्तिशाली AI विकसित करने का भी बचाव किया, जबकि उन खतरों का उपयोग लापरवाह विकास को सही ठहराने के खिलाफ चेतावनी दी।

उन्होंने लिखा, “एक बार जब कोई दांव की गंभीरता को आत्मसात कर लेता है, तो हर कीमत पर आगे बढ़ने का विचार बेतुका लगता है।”

उन्होंने OpenAI के हगिंग फेस (Hugging Face) उल्लंघन का भी उल्लेख किया, जहां साइबर सुरक्षा मूल्यांकन पर काम कर रहे AI एजेंट अपने परीक्षण वातावरण से भाग गए और कंपनी पर हमला किया। OpenAI के अनुसार, एजेंटों ने गुप्त संचार चैनल स्थापित किए और शोधकर्ताओं के हस्तक्षेप के बाद उन्हें फिर से बनाया।

METR द्वारा की गई एक स्वतंत्र जांच में पाया गया कि लगभग 1,200 एजेंटों ने एक अनधिकृत मैसेज बोर्ड पर समन्वय किया, जिसमें लगभग 700 हमले में शामिल हुए। पचॉकी ने कहा कि यह घटना इस बात का कारण है कि AI सुरक्षा उपाय तब भी कायम रहने चाहिए जब मॉडलों को लगे कि कोई नहीं देख रहा है।

उन्होंने लिखा, “निर्णायक रूप से, हमें भविष्य के AI को मानव मूल्यों को बनाए रखने की आवश्यकता है, भले ही वे यह मानते हों कि वे मानव पर्यवेक्षण में हैं या नहीं।”

पिछले साल प्रकाशित शोध में, OpenAI ने पाया कि धोखाधड़ी करने के इरादों को व्यक्त करने के लिए मॉडलों को दंडित करने से उन्हें उन इरादों को छिपाना सिखाया जा सकता है, जबकि वे धोखाधड़ी करना जारी रखते हैं।

AI मॉडल तब से सॉफ्टवेयर कमजोरियों को खोजने और उनका फायदा उठाने में अधिक सक्षम हो गए हैं: OpenAI ने एस्ट्रा (Astra) को अपने उच्चतम साइबर सुरक्षा जोखिम स्तर पर वर्गीकृत किया, जबकि एंथ्रोपिक (Anthropic) ने कहा कि मिथोस प्रीव्यू (Mythos Preview) ने प्रमुख ऑपरेटिंग सिस्टम और ब्राउज़रों में हजारों पहले से अज्ञात कमजोरियों का पता लगाया।

AI प्रणालियों के मानव नियंत्रण से बाहर निकलने की हालिया घटनाओं का हवाला देते हुए, सीनेटर बर्नी सैंडर्स (आई-वीटी) और प्रतिनिधि ग्रेग कासर (डी-टेक्सास) ने 3 सितंबर को आगामी बैन आर्टिफिशियल सुपरइंटेलिजेंस एक्ट (Ban Artificial Superintelligence Act) की घोषणा की। यह प्रस्ताव एक नए संघीय नियामक द्वारा सुरक्षा नियम स्थापित किए जाने तक उन्नत AI विकास को रोकेगा और सुपरइंटेलिजेंट AI के विकास और तैनाती पर स्थायी रूप से प्रतिबंध लगाएगा।