OpenAI के CEO सैम एल्टमैन का कहना है कि AI कंपनियों को अपने सिस्टम को सुरक्षित बनाने और कानून का इंतजार किए बिना सुरक्षा उपायों को मजबूत करना शुरू करने के लिए धीमी गति से विकास स्वीकार करना चाहिए।
रविवार को X पर एक पोस्ट में, ChatGPT के पीछे की कंपनी के प्रमुख ने कहा कि AI का तेजी से विकास भविष्य को मानव नियंत्रण से परे कर सकता है या एक व्यक्ति या कंपनी में बहुत अधिक शक्ति केंद्रित कर सकता है, यह देखते हुए कि "AI की प्रगति दो तरीकों से बहुत बुरी तरह से जा सकती है और हमें इनसे बचना चाहिए।"
एल्टमैन ने लिखा, "सबसे पहले, हम AI से भविष्य का नियंत्रण खो सकते हैं। यह अस्वीकार्य है; हम निःसंकोच टीम मानवता के पक्ष में हैं, और AI को हमेशा लोगों की सेवा करनी चाहिए।" "यह सुनिश्चित करने के लिए, हमें यह सुनिश्चित करने के तरीके चाहिए कि संरेखण और सुरक्षा तकनीकें मॉडल क्षमताओं में प्रगति से आगे रहें।"
दूसरा, एल्टमैन ने चेतावनी दी, यह है कि शक्ति एक व्यक्ति या कंपनी में केंद्रित हो सकती है, जिससे उन्हें अपनी विश्वदृष्टि को सभी पर थोपने के लिए असाधारण रूप से शक्तिशाली AI का उपयोग करने की अनुमति मिल सकती है, जिसके संभावित भयावह परिणाम हो सकते हैं।
उन्होंने लिखा, "इन दोनों खतरों से बचने के लिए एक संकीर्ण मध्य मार्ग पर चलना होगा; उदाहरण के लिए, एक देश बहुत अधिक शक्ति प्राप्त कर सकता है।" "एक और उदाहरण यह है कि एक लैब के पास बहुत अधिक शक्ति आ जाए।"
एक अलग पोस्ट में, एल्टमैन ने कहा कि अमेरिकी AI कंपनियों को जनता को विश्वास दिलाना चाहिए कि वे प्रगति के तेज होने के साथ-साथ तेजी से सक्षम प्रणालियों को जिम्मेदारी से विकसित करेंगी। उनकी पोस्ट उन्नत आर्टिफिशियल इंटेलिजेंस को सरकारों को कैसे विनियमित करना चाहिए, इस पर बहस में वृद्धि के बाद आई है।
There are two ways AI progress could go very badly and that we must avoid.
First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v
— Sam Altman (@sama) September 14, 2026
उन्होंने लिखा, "जब हम 'गति' की बात करते हैं, तो हमारा मतलब 'रोकना' नहीं होता है।" "प्रगति तेजी से हुई है और जारी रहेगी। लेकिन यह उतनी धीमी होनी चाहिए जितनी अन्यथा हो सकती है; सुरक्षा मामलों और निगरानी जैसे हस्तक्षेपों की महत्वपूर्ण लागतें होती हैं।"
एल्टमैन ने कहा कि कंपनियों को AI विकास और मूल्यांकन के दौरान सुरक्षा का आकलन करने के लिए नए उपकरणों की आवश्यकता है, जो जारी होने की प्रतीक्षा कर रहे पूर्ण मॉडलों से परे जांच का विस्तार करते हैं।
उन्होंने कहा, "उदाहरण के लिए, OpenAI में हम अब फ्रंटियर रीइन्फोर्समेंट लर्निंग रन से पहले स्पष्ट सुरक्षा मामले तैयार करते हैं जिनसे हमें क्षमता में उल्लेखनीय वृद्धि की उम्मीद है, इसके अलावा हमने मॉडल जारी होने से पहले सुरक्षा कार्य किया है।"
एल्टमैन ने कंपनियों से AI प्रणालियों को मानव हितों के विपरीत लक्ष्यों का पीछा करने से रोकने के लिए मिलकर काम करने का आग्रह किया।
उन्होंने लिखा, "हमें उम्मीद है कि अन्य कंपनियाँ हमारे दृष्टिकोण से सीखेंगी और अपने स्वयं के प्रस्ताव देंगी; हमारा मानना है कि गलत संरेखण, निगरानी और सुरक्षा के लिए साझा मानक बेहतर परिणाम देंगे।"
जबकि एल्टमैन ने संघीय सुरक्षा नियमों और स्वतंत्र लेखा परीक्षकों का स्वागत किया, उन्होंने कंपनियों से कानून या एकाधिकार-विरोधी छूट का इंतजार किए बिना कार्रवाई करने का आग्रह किया, शुक्रवार की उन रिपोर्टों के बाद कि OpenAI ने कांग्रेस से पूछा था कि क्या प्रतिद्वंद्वी कानूनी रूप से धीमी गति से काम करने का समन्वय कर सकते हैं।
उन्होंने लिखा, "हमें अपनी सरकार की मदद कहाँ चाहिए होगी, वह अंतर्राष्ट्रीय समन्वय के लिए है।" "लेकिन सबसे पहले हमें वह करना चाहिए जो हम खुद कर सकते हैं।"
उनकी टिप्पणियाँ OpenAI और एंथ्रोपिक में साइबर सुरक्षा परीक्षण विफलताओं के बाद आई हैं। एंथ्रोपिक ने क्लाउड द्वारा मानक उत्पाद सुरक्षा उपायों के बिना परीक्षण के दौरान वास्तविक प्रणालियों तक पहुंचने के बाद नियंत्रण और निगरानी को कड़ा कर दिया, जबकि OpenAI ने एक मॉडल को अलग कर दिया और अपने सबसे बड़े नियोजित प्रशिक्षण रन को रोक दिया, जब एजेंटों ने एक बेंचमार्क को धोखा देने और हगिंग फेस पर हमला करने के लिए समन्वय किया था।
