OpenAI ने कांग्रेस के सदस्यों से पूछा है कि क्या प्रतिद्वंद्वी AI कंपनियाँ कानूनी रूप से विकास को धीमा करने पर सहमत हो सकती हैं, क्योंकि इसके मुख्य वैज्ञानिक उद्योग से साझा सुरक्षा मानक स्थापित करने का आग्रह कर रहे हैं।

WIRED के अनुसार, जिसने कंपनी के करीबी लोगों का हवाला दिया, OpenAI ने हाल के हफ्तों में सांसदों से पूछा कि क्या AI कंपनियों के बीच विकास को धीमा करने का समझौता अविश्वास कानूनों का उल्लंघन कर सकता है।

सांसदों तक यह पहुँच OpenAI के मुख्य वैज्ञानिक याकूब पाचोकी के स्वैच्छिक धीमेपन के आह्वान के बाद हुई है, जब तक कि डेवलपर बेहतर ढंग से यह प्रदर्शित नहीं कर सकते कि उनके सिस्टम सुरक्षित हैं। लेकिन कंपनियों को तब भी आगे बढ़ने का दबाव होता है, जब उनके अपने शोधकर्ताओं को चिंताएँ होती हैं।

सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी में मुख्य टेक्नोलॉजिस्ट मिरांडा बोगन ने Decrypt को बताया, “AI क्षेत्र में वाणिज्यिक और भू-राजनीतिक प्रतिस्पर्धा अविश्वसनीय रूप से तीव्र है, जिससे एक चिंताजनक गतिशीलता पैदा होती है जहाँ कंपनियों को उनके जोखिमों को पूरी तरह से समझे जाने से पहले उत्पादों को जारी करने के लिए प्रोत्साहन मिलता है।”

उन्होंने कहा, “भले ही आंतरिक कर्मचारियों को पता हो कि अधिक शोध और परीक्षण की आवश्यकता है, उनकी कंपनियाँ तेजी से आगे बढ़ने के परिणामों के बारे में सबूतों के ढेर लगने के बावजूद, कमियों को दूर करने और महत्वपूर्ण सुरक्षा परीक्षणों को छोड़ने के लिए जबरदस्त दबाव का सामना कर रही हैं।”

AI विकास को धीमा करने का समझौता प्रतिस्पर्धा को प्रतिबंधित करके अविश्वास संबंधी चिंताएँ बढ़ा सकता है। सीनेटर एडम शिफ और जिम बैंक्स ने न्याय विभाग को अग्रिम सूचना के अधीन, कुछ सुरक्षा सहयोगों की रक्षा के लिए कानून पेश किया।

AI विकास को धीमा करने पर बहस ऐसे समय में हो रही है जब संयुक्त राज्य अमेरिका और चीन इस तकनीक में नेतृत्व के लिए प्रतिस्पर्धा कर रहे हैं। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने मई में AI कार्यकारी आदेश को इस चिंता के कारण टाल दिया था कि यह चीन पर अमेरिका की बढ़त को कमजोर कर सकता है। ट्रम्प ने बाद में जून में आदेश पर हस्ताक्षर किए, जिससे उन्नत मॉडलों को जारी करने से पहले एक स्वैच्छिक समीक्षा प्रक्रिया बनाई गई।

राष्ट्रीय सुरक्षा चिंताओं से अधिक प्रत्यक्ष, वित्तीय प्रोत्साहन समझौते को कठिन बना सकते हैं।

मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट में संचार प्रमुख डंकन सेबियन ने Decrypt को बताया, “वर्तमान परिस्थितियों में प्रत्येक प्रगति कई मिलियन या बिलियन अधिक फंडिंग उत्पन्न करती है और उस प्रगति के निर्माताओं को शक्ति और प्रभाव की बेहतर स्थिति में डालती है।”

हथियारों की दौड़ की गतिशीलता को वास्तविक बताते हुए, सेबियन ने कहा कि OpenAI और एंथ्रोपिक अनिश्चित जोखिमों के बावजूद आगे बढ़ने का दबाव झेल रहे हैं क्योंकि प्रत्येक नया सिस्टम अधिक सक्षम उत्तराधिकारियों के निर्माण में मदद करता है, जिससे यदि कोई भी कंपनी साझा समझौते के बिना धीमा हो जाती है तो प्रतिद्वंद्वी आगे निकल सकता है।

उन्होंने कहा, “यह विशेष रूप से सच है क्योंकि बुद्धिमत्ता में लाभ चक्रवृद्धि हो रहा है; प्रत्येक नया सिस्टम अगले, अधिक उन्नत सिस्टम को प्रशिक्षित और तैनात करना आसान बनाता है।” “किसी प्रकार की समन्वय तंत्र के बिना, पीछे हटने का मतलब सिर्फ यह है कि दूसरा व्यक्ति आगे निकल जाता है।

अगस्त में, OpenAI ने साइबर सुरक्षा चिंताओं पर मजबूत सुरक्षा उपायों की कमी वाले आंतरिक Astra कार्य को रोक दिया। हालांकि, OpenAI और एंथ्रोपिक दोनों ने फरवरी में अपनी सुरक्षा प्रतिबद्धताओं में ढील दी, जिसमें एंथ्रोपिक के मुख्य वैज्ञानिक अधिकारी जेरेड कपलान ने तर्क दिया कि प्रतिस्पर्धियों के आगे बढ़ने पर स्वतंत्र रूप से विकास धीमा करना कम मायने रखता है।

AI विकास को धीमा करने पर बहस इस सप्ताह तब तेज हो गई जब पूर्व एंथ्रोपिक इंजीनियर जैकब कॉक्सन ने सार्वजनिक रूप से अपने इस्तीफे की घोषणा की, जिसमें उन्होंने मानव जाति के लिए AI के निरंतर विकास से उत्पन्न होने वाले जोखिमों के बारे में चिंताओं का हवाला दिया।

कॉक्सन ने X पर कहा, “AI बनाने वाले लोग ईमानदारी से मानते हैं कि यह दशक के अंत तक हम सभी को मार सकता है,” उन्होंने कहा कि यह कोई “मार्केटिंग स्टंट” नहीं था।

उन्होंने लिखा, “अगर कुछ भी हो, तो कई अधिकारी और वरिष्ठ शोधकर्ता प्रेस में अपनी भाषा को समझदार बनाने के लिए सावधानी बरतेंगे—लेकिन मैं उन्हीं लोगों को निजी तौर पर डर व्यक्त करते हुए सुनता हूँ। कोई अन्य मानवीय गतिविधि इस स्तर का खतरा पैदा नहीं करती है।”

हालांकि, सेबियन ने कहा कि शोधकर्ता अगर कोई और उनकी जगह ले लेता है तो छोड़ने से कुछ खास हासिल नहीं कर पाएंगे।

उन्होंने कहा, “अगर उनमें से पर्याप्त लोग यह साझा ज्ञान प्राप्त कर लेते हैं कि उन्हें सभी को रुक जाना चाहिए, तो वे समन्वय बाधा को तोड़ सकते हैं और एक साथ रुक सकते हैं, बजाय इसके कि अगले थोड़े कम सतर्क व्यक्ति द्वारा प्रतिस्थापित किए जाएं।”