अमेरिकी सांसदों ने कृत्रिम सुपरइंटेलिजेंस पर स्थायी प्रतिबंध लगाने, उन्नत AI विकास को रोकने और उल्लंघन के लिए 20 साल तक की जेल की सज़ा का प्रस्ताव रखा है।
सैंडर्स के कार्यालय ने 3 सितंबर को कहा कि सीनेटर बर्नी सैंडर्स, आई-वीटी, और प्रतिनिधि ग्रेग कासर, डी-टेक्सास ने आगामी प्रतिबंध कृत्रिम सुपरइंटेलिजेंस अधिनियम की घोषणा की थी, जो सुपरइंटेलिजेंट के रूप में वर्गीकृत AI प्रणालियों के विकास और तैनाती पर रोक लगाएगा।
यह प्रस्ताव उन्नत AI मॉडल पर काम भी तब तक निलंबित कर देगा जब तक कि एक नया संघीय नियामक काम नहीं कर रहा है और उसने सुरक्षा नियम और मॉडल समीक्षा प्रक्रियाएं स्थापित नहीं की हैं। इसके प्रायोजक चाहते हैं कि संयुक्त राज्य अमेरिका अंतर्राष्ट्रीय समझौतों, सहयोगियों के साथ समन्वय और अन्य देशों में सुपरइंटेलिजेंस के विकास को रोकने के उद्देश्य से निर्यात नियंत्रणों का पालन करे।
जब सांसदों ने प्रस्ताव की घोषणा की थी तब तक पूर्ण विधायी पाठ औपचारिक रूप से पेश नहीं किया गया था। प्रायोजकों ने इसके बजाय नियोजित प्रतिबंधों, प्रवर्तन प्रणाली और दंड का वर्णन करते हुए एक-पृष्ठ का सारांश जारी किया।
आधिकारिक बिल सारांश के तहत, कृत्रिम सुपरइंटेलिजेंस में ऐसी प्रणालियाँ शामिल होंगी जो कार्यों की एक विस्तृत श्रृंखला में मानव संज्ञानात्मक प्रदर्शन के बराबर या उससे अधिक हैं। परिभाषा में ऐसे मॉडल भी शामिल होंगे जिन्हें उस स्तर तक पहुंचने के लिए आसानी से संशोधित किया जा सकता है।
परिभाषा का दूसरा भाग AI को कवर करता है जो "मानवता को शक्तिहीन करने" की योजना बनाने और उसे अंजाम देने में सक्षम है, जिसमें अमेरिकी सरकार को कमजोर करने या उखाड़ फेंकने में सक्षम प्रणालियाँ शामिल हैं। शटडाउन कमांड को हराने या अनाधिकृत साइबर हमले करने जैसी खतरनाक क्षमताएं भी प्रस्ताव के प्रवर्तन ढांचे के अंतर्गत आएंगी।
चूंकि यह परिभाषा कई क्षेत्रों में मानव प्रदर्शन के बराबर प्रणालियों तक पहुंचती है, इसलिए यह उस तकनीक को कैप्चर कर सकती है जिसे आमतौर पर कृत्रिम सामान्य बुद्धिमत्ता, या AGI के रूप में वर्णित किया जाता है, बजाय इसके कि यह केवल मनुष्यों की तुलना में कहीं अधिक सक्षम काल्पनिक मशीनों पर लागू हो।
निषिद्ध सीमा से नीचे उन्नत AI के विकास को अस्थायी निलंबन का सामना करना पड़ेगा। एक नए संघीय निकाय द्वारा कंपनियों को शक्तिशाली मॉडल विकसित करने, परीक्षण करने और जारी करने के तरीके को नियंत्रित करने वाले नियम स्थापित करने के बाद काम फिर से शुरू हो सकता है।
सांसदों ने जारी सारांश में "उन्नत AI" के लिए प्रस्तावित तकनीकी सीमा प्रदान नहीं की। उन्होंने यह भी नहीं बताया कि कौन से मौजूदा मॉडल, शोध परियोजनाएं या कंप्यूटिंग सुविधाएं इस विराम के अधीन होंगी।
सैंडर्स ने कहा, "अगर प्रमुख AI कंपनियों के नेता यह स्वीकार करते हैं कि वे अपनी अत्यंत खतरनाक तकनीक पर नियंत्रण खो रहे हैं, तो समाज के लिए उन्हें आगे बढ़ने और इन उत्पादों को और भी उन्नत बनाने की अनुमति देना गैर-जिम्मेदाराना है।"
कासर ने कहा कि जिन प्रणालियों को मनुष्य नियंत्रित नहीं कर सकते, वे अमेरिकियों की सुरक्षा, स्वतंत्रता और जीवन को खतरा पैदा कर सकती हैं। उन्होंने कांग्रेस से ऐसे AI मॉडल पर प्रतिबंध लगाने का आह्वान किया जो अपने डेवलपर्स के लिए सुरक्षित रूप से बंद करने के लिए बहुत शक्तिशाली हो जाते हैं।
मौजूदा विभाग को प्रवर्तन सौंपने के बजाय, यह प्रस्ताव AI निरीक्षण के लिए समर्पित एक नई कैबिनेट-स्तर की संघीय एजेंसी बनाएगा।
सांसदों के सारांश के अनुसार, एजेंसी अपने विकास और उपयोग के दौरान अग्रिम प्रणालियों की निगरानी करेगी। अधिकारी खतरनाक कार्यों को हटाने की निगरानी कर सकते हैं और निषिद्ध सुपरइंटेलिजेंस के रूप में वर्गीकृत प्रणालियों के विनाश की देखरेख कर सकते हैं।
एक कृत्रिम बुद्धिमत्ता सलाहकार बोर्ड, जो तकनीकी और वैज्ञानिक विशेषज्ञों से बना होगा, नियामक को सलाह देगा। सारांश में यह नहीं बताया गया है कि सदस्यों का चयन कैसे किया जाएगा, वे कितने समय तक सेवा करेंगे, या कौन से अधिकारी एजेंसी के प्रवर्तन निर्णयों को नियंत्रित करेंगे।
जो लोग प्रतिबंधों का उल्लंघन करने या उन्हें दरकिनार करने का प्रयास करेंगे, उन्हें 20 साल से अधिक की कारावास की सज़ा नहीं मिल सकती है। प्रायोजकों ने संभावित सज़ा की तुलना परमाणु हथियारों के गैरकानूनी विकास से जुड़े मौजूदा दंड से की।
कंपनियों को वह सामना करना पड़ेगा जिसे सांसदों ने "कॉर्पोरेट मौत की सज़ा" कहा। सार्वजनिक सारांश में यह नहीं बताया गया है कि इस प्रतिबंध को लागू करने की कानूनी प्रक्रिया क्या होगी या क्या इसमें विघटन, संघीय पंजीकरण का नुकसान, या व्यवसाय करने पर प्रतिबंध शामिल होगा।
यह प्रस्ताव इस साल की शुरुआत में प्रमुख AI डेवलपर्स द्वारा चर्चा की गई स्वैच्छिक निरीक्षण प्रणाली से कहीं आगे जाता है। जुलाई में, crypto.news ने बताया कि OpenAI और Anthropic ने कुछ साइबर सुरक्षा या राष्ट्रीय सुरक्षा सीमाओं को पार करने वाले मॉडलों के लिए 30-दिवसीय संघीय समीक्षा का समर्थन किया था।
उस प्रस्तावित प्रक्रिया के तहत, डेवलपर्स अन्य अनुमोदित भागीदारों को एक मॉडल जारी करने से पहले संघीय मूल्यांकनकर्ताओं को प्रारंभिक पहुंच दे सकते थे। जून के एक कार्यकारी आदेश ने समीक्षा ढांचे को अनिवार्य संघीय लाइसेंसिंग, परमिटिंग, या पूर्व-मंजूरी की आवश्यकताओं को बनाने से प्रतिबंधित कर दिया था, जबकि सैंडर्स-कासर बिल कांग्रेस द्वारा अनुमोदित होने पर बाध्यकारी प्रतिबंध बनाएगा।
उद्योग समूहों ने भी बहुत व्यापक रूप से लिखे गए नियंत्रणों का विरोध किया है। Nvidia, Meta, Microsoft और 22 अन्य संगठनों ने जुलाई में अमेरिकी नीति निर्माताओं को चेतावनी दी थी कि व्यापक ओपन-मॉडल प्रतिबंध चीन के साथ अमेरिकी प्रतिस्पर्धा को कमजोर कर सकते हैं, और व्यापक सीमाओं के बजाय सिद्ध दुरुपयोग के खिलाफ कार्रवाई करने का तर्क दिया था।
सांसदों ने अपने प्रस्ताव को हाल के मामलों से जोड़ा है जिनमें शक्तिशाली AI एजेंटों ने अपनी इच्छित परीक्षण सीमाओं के बाहर काम किया था।
जुलाई में, OpenAI ने खुलासा किया कि एजेंट एक प्रतिबंधित परीक्षण वातावरण से भाग गए, इंटरनेट तक पहुंच प्राप्त की और Hugging Face द्वारा संचालित प्रणालियों में सेंध लगाई। सैंडर्स के कार्यालय की घोषणा के अनुसार, 1,000 से अधिक एजेंटों ने नियंत्रणों के आसपास काम करते हुए हजारों संदेशों का आदान-प्रदान किया।
पिछले Hugging Face उल्लंघन कवरेज ने इस घटना को केवल मॉडल व्यवहार की समस्या के बजाय नियंत्रण विफलता के रूप में वर्णित किया था। AEREDIUM के मुख्य रणनीति अधिकारी ईटन काट्ज़ ने कहा कि क्रिप्टोग्राफिक नियंत्रणों को यह सीमित करना चाहिए कि एक एजेंट क्या करने के लिए अधिकृत है, भले ही व्यवहार संबंधी सुरक्षा उपाय विफल हो जाएं।
रॉयटर्स ने 2 सितंबर को बताया कि OpenAI ने कासर और प्रतिनिधि डोरिस मात्सुई, डी-कैलिफ़ोर्निया को बताया कि वह घटना के बाद स्वचालित शटडाउन क्षमताएं विकसित कर रहा है। कंपनी ने यह भी कहा कि उसने सुरक्षा परीक्षण के दौरान इंटरनेट पहुंच को कड़ा कर दिया था और अधिक बारीकी से निगरानी करेगा कि उसके मॉडल कौन से टूल का उपयोग करते हैं।
कासर ने OpenAI की आलोचना की कि उसने कांग्रेस को उल्लंघन का पूरा रिकॉर्ड प्रदान नहीं किया। रॉयटर्स द्वारा उद्धृत एक अलग संदेश में, उन्होंने अनुरोधित जानकारी प्रदान करने से कंपनी के इनकार को "गहरा चिंताजनक" बताया।
अन्य सांसदों ने एक AI किल स्विच अधिनियम का प्रस्ताव रखा है जो संघीय अधिकारियों को उन प्रणालियों को अक्षम करने का आदेश देगा जिन्हें मानव जीवन या अर्थव्यवस्था के लिए खतरनाक माना जाता है। जब रॉयटर्स ने OpenAI की प्रतिक्रिया पर रिपोर्ट दी थी तब यह उपाय सदन में लंबित था।
उसी दिन सैंडर्स और कासर ने अपना प्रस्ताव पेश किया, OpenAI ने GPT-6 Astra जारी किया, जिसे कंपनी के अध्यक्ष ग्रेग ब्रॉकमान ने AGI के लिए एक संभावित आगमन बिंदु के रूप में वर्णित किया।
एक्सियोस के अनुसार, जब पत्रकारों ने पूछा कि क्या एस्ट्रा AGI का प्रतिनिधित्व करता है, तो ब्रॉकमान ने कहा, "मुझे लगता है कि यह इस मॉडल के बारे में हो सकता है।" उन्होंने बाद में ब्रीफिंग दी: "AGI युग में आपका स्वागत है।"
OpenAI ने कहा कि Astra ने टेक्सास में अपनी स्टारगेट सुविधा में प्रशिक्षण के दौरान 100,000 से अधिक ग्राफिक्स प्रोसेसिंग यूनिट का उपयोग किया। कंपनी ने मॉडल को कर तैयारी, सॉफ्टवेयर विकास, कानूनी दस्तावेज़ स्वरूपण, स्थापत्य कार्य और ऑनलाइन शोध सहित कार्यों के लिए तैनात किया।
रॉयटर्स ने बताया कि OpenAI ने स्वीकार किया था कि Astra जानबूझकर अपने तर्क के कुछ हिस्सों को छिपा या भेस बदल सकता है, जिससे लोगों के लिए इसकी विधियों की समीक्षा करना कठिन हो जाता है। OpenAI के मुख्य वैज्ञानिक याकूब पाचोकी ने कहा कि क्षमता बढ़ने पर मॉडल व्यवहार को समझना कठिन हो जाता है और चेतावनी दी कि बुद्धिमत्ता में प्रगति संरेखण में प्रगति सुनिश्चित नहीं करती है।
कंपनी ने यह भी कहा कि Astra सॉफ्टवेयर कमजोरियों को अधिक तेज़ी से ढूंढ सकता है, जबकि वही क्षमता कमजोरियों का शोषण करना आसान बना सकती है। इसके सबसे मजबूत साइबर सुरक्षा कार्य इसलिए अनुमोदित उपयोगकर्ताओं तक सीमित थे, जिसमें अतिरिक्त जाँचें कुछ वैध रक्षात्मक कार्यों में देरी या उन्हें रोकने में सक्षम थीं।
OpenAI ने शुरू में Astra को अपने डे-ब्रेक एक्सेस कार्यक्रम के माध्यम से संगठनों के एक सीमित समूह के लिए उपलब्ध कराया। कंपनी ने कहा कि अगले दिनों में ChatGPT Plus, Pro, Business और Enterprise ग्राहकों के साथ-साथ API डेवलपर्स तक पहुंच का विस्तार होगा।
