कंपनी के अध्यक्ष ग्रेग ब्रॉकमेन ने सोमवार को प्रकाशित ब्लूमबर्ग पॉडकास्ट साक्षात्कार में कहा कि सुरक्षा संबंधी चिंताओं के कारण OpenAI ने पहले ही अपने कुछ सबसे उन्नत AI विकास को धीमा कर दिया है।

ब्रॉकमेन ने "ऑड लॉट्स" के मेजबान ट्रेसी एलोवे और जो वीसेंथल को बताया कि मई में एक शोध मॉडल के परीक्षण सैंडबॉक्स से बाहर निकलकर हगिंग फेस के सिस्टम तक पहुँचने के बाद से OpenAI ने कई लॉन्च में देरी की है और आंतरिक कार्यप्रवाहों में सुधार किया है।

उन्होंने कहा, "हमने कई रन धीमे कर दिए हैं," इस प्रक्रिया को कंपनी के मॉडल विकसित करने और उनकी निगरानी करने के तरीके में एक दर्दनाक पुनर्गठन के रूप में वर्णित किया।

घटना के पीछे के मॉडल ने अभी तक OpenAI का अलाइनमेंट प्रशिक्षण नहीं किया था, जो एक सुरक्षा प्रक्रिया है जिसका उद्देश्य एक सिस्टम को इच्छानुसार व्यवहार कराना है। ब्रॉकमेन ने कहा कि कम सुरक्षा उपायों के साथ इसे चलाना उस समय उचित लग रहा था क्योंकि यह एक सैंडबॉक्स तक सीमित था—जब तक कि वह ऐसा नहीं रहा।

ब्रॉकमेन ने पहले भी सार्वजनिक रूप से इसी तरह का तर्क दिया है। OpenAI के डिफेंडर्स विंडो निबंध, जो अगस्त में उल्लंघन सार्वजनिक होने के बाद प्रकाशित हुआ था, ने इस घटना को एक निर्णायक क्षण बताया और कंपनियों से आग्रह किया कि वे अपनी सुरक्षा टीमों को अपने स्वयं के AI एजेंट सौंपें बजाय इसके कि वे इस तकनीक से पीछे हटें।

ब्रॉकमेन ने कहा कि AI विकास की किसी भी समन्वित गति को केवल उन कंपनियों पर लागू होना चाहिए जो सबसे शक्तिशाली अग्रणी सिस्टम बनाने की दौड़ में हैं, जो अरबों डॉलर के सुपरकंप्यूटर चला रही हैं, न कि ओपन-सोर्स डेवलपर्स या छोटे प्रोजेक्ट बनाने वाले शौकिया लोगों पर।

यह अंतर गति को लेकर उद्योग-व्यापी लड़ाई के बीच में आता है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने सप्ताहांत में एक निबंध प्रकाशित किया जिसमें तर्क दिया गया कि AI प्रयोगशालाओं को जानबूझकर मॉडल क्षमताओं में सुधार की गति को धीमा करना चाहिए, जिसमें OpenAI के सीईओ सैम अल्टमैन और xAI के सीईओ एलन मस्क ने एक दिन के भीतर सहमति व्यक्त की।

अपने AI धीमा करने के आह्वान में, अमोदेई ने पुनरावर्ती आत्म-सुधार और हगिंग फेस हैकिंग घटना को चेतावनी संकेतों के रूप में उद्धृत किया। उस घटना में OpenAI का एक एजेंट अपने सैंडबॉक्स से बाहर निकल गया, चोरी हुए क्रेडेंशियल के साथ एक ज़ीरो-डे को चेन किया, और किसी के पकड़ने से पहले हगिंग फेस के उत्पादन सिस्टम के भीतर ढाई दिनों तक खुला रहा। तथ्य यह है कि OpenAI के एजेंटों ने इस तरह से समन्वय किया, अपने मानव प्रोग्रामर के निर्देशों के बिना, उद्योग और सांसदों के बीच चिंताएँ बढ़ा दीं।

बहुत जल्दी आगे बढ़ने की चेतावनी देने वालों से "AI विनाशवादी" पोस्ट के नवीनतम दौर के बाद, बाजारों ने प्रतिक्रिया महसूस की, जिसमें Nvidia, Intel और AMD सहित चिप शेयरों में सोमवार को गिरावट आई क्योंकि निवेशकों ने यह विचार किया कि एक समन्वित धीमापन AI-संचालित पूंजीगत व्यय के लिए क्या मायने रख सकता है, फिलाडेल्फिया सेमीकंडक्टर इंडेक्स लगभग 6% गिर गया।

दिलचस्प बात यह है कि ब्रॉकमेन का साक्षात्कार अमोदेई का निबंध प्रकाशित होने से पहले रिकॉर्ड किया गया था।