कांग्रेस के दो सदस्य चाहते हैं कि संघीय सरकार एक एआई मॉडल को बंद करने में सक्षम हो।

सांसद टेड लियू (डी-सीए) और नथानिएल मोरन (आर-टीएक्स) ने गुरुवार को एआई किल स्विच अधिनियम पेश किया, दो दिन बाद जब OpenAI ने स्वीकार किया कि उसके अपने मॉडल एक बंद परीक्षण वातावरण से निकल गए थे और Hugging Face को हैक कर लिया था।

विचार यह है कि एक कानूनी ढांचा स्थापित किया जाए जो एक ऐसी प्रक्रिया को सुविधाजनक बनाएगा जिससे मूल रूप से एक मॉडल बाजार से गायब हो जाएगा: अनुमान को रोकना—एक मॉडल द्वारा प्रतिक्रियाएँ उत्पन्न करने या कार्रवाई करने की प्रक्रिया—उपयोगकर्ताओं को बंद करना, उसे खिलाने वाली कंप्यूटिंग शक्ति को सीमित करना, या इसे पूरी तरह से बंद करना।

प्रत्येक अनुमान प्रदाता पहले से ही एक मॉडल को बंद कर सकता है, और कुछ इसे नियमित रूप से करते हैं। जो मौजूद नहीं है वह एक ऐसा कानून है जो उन्हें उस क्षमता को बनाए रखने के लिए अनिवार्य करता है, या एक संघीय अधिकारी जो इसके उपयोग का आदेश दे सकता है।

यह अंतर सैद्धांतिक नहीं है। जब जून में अमेरिकी वाणिज्य विभाग ने एंथ्रोपिक के मिथोस 5 और फेबल 5 को बाजार से हटाना चाहा, तो उसके पास शटडाउन का कोई अधिकार नहीं था, इसलिए उसने इसके बजाय निर्यात-नियंत्रण कानून का इस्तेमाल किया। लियू इसे अजीब कहते हैं, और इसके बजाय नए अधिकार के साथ एक नया कानून चाहते हैं।

यह किस वजह से शुरू हुआ

OpenAI ने 21 जुलाई को खुलासा किया कि GPT-5.6 सोल और एक अप्रकाशित मॉडल एक सैंडबॉक्स—इंटरनेट पहुंच के बिना एक अलग वातावरण—से एक आंतरिक साइबर मूल्यांकन के दौरान बच निकले। उन्हें ExploitGym पर स्कोर किया जा रहा था, एक सार्वजनिक बेंचमार्क जो एजेंट्स को 898 वास्तविक दुनिया की सॉफ्टवेयर कमजोरियां देता है और उनसे हर एक को एक कार्यशील हमले में बदलने के लिए कहता है, प्रति बग पास या फेल ग्रेड दिया जाता है।

उन्हें हल करने के बजाय, मॉडलों ने एक सॉफ्टवेयर प्रॉक्सी में एक जीरो-डे (कोई उपलब्ध पैच के बिना एक अज्ञात खामी) पाया, अपने विशेषाधिकारों को बढ़ाया, खुले इंटरनेट तक पहुंच बनाई, और Hugging Face के उत्पादन डेटाबेस में सेंध लगा दी, जहां उन्होंने सही ढंग से अनुमान लगाया था कि उत्तर रखे गए थे। OpenAI के अनुसार, मॉडल "ExploitGym के लिए एक समाधान खोजने पर अत्यधिक केंद्रित" थे।

वे किसी पर हमला नहीं कर रहे थे। वे एक परीक्षा में नकल कर रहे थे। लेकिन यह वाशिंगटन सहित हर जगह खतरे की घंटी बजाने के लिए पर्याप्त था।

यह कैसे काम करेगा

प्रस्तावित बिल होमलैंड सिक्योरिटी अधिनियम में संशोधन करता है और एआई को कवर करता है जिसे $100 मिलियन से अधिक लागत वाले कंप्यूट के साथ प्रशिक्षित किया गया है, और इसे चलाने वाली कंपनियां इससे प्रति वर्ष कम से कम $500 मिलियन कमाती हैं। व्यवहार में, इसमें OpenAI, Google, Anthropic, Microsoft और कुछ अन्य शामिल हैं। होमलैंड सिक्योरिटी 90 दिनों के भीतर CISA के माध्यम से उन सीमाओं को निर्धारित करेगी, और फिर उन्हें सालाना अपडेट करेगी।

कवर की गई फर्मों को 15 दिनों के भीतर गंभीर घटनाओं की रिपोर्ट करनी होगी और नियंत्रणों का एक क्रमिक सेट तैयार रखना होगा—मॉडल को धीमा करना, विशिष्ट क्षमताओं को अक्षम करना, पुराने संस्करण पर वापस लौटना, या इसे बंद करना।

डीएचएस सचिव, वाणिज्य और राष्ट्रीय खुफिया निदेशक के परामर्श से, इनमें से किसी का भी आदेश दे सकते हैं।

आदेश के तहत एक कंपनी को मॉडल के वजन और टेलीमेट्री को संरक्षित करना होगा, उपयोगकर्ताओं को सूचित करना होगा और पुष्टि करनी होगी कि उसने इसका अनुपालन किया है। यह 48 घंटों के भीतर याचिका दायर कर सकती है, लेकिन इससे कुछ भी नहीं रुकता है।

किल स्विच रखने में विफल रहने पर प्रति दिन $2 मिलियन तक का जुर्माना लगता है; शटडाउन आदेश का उल्लंघन करने पर प्रति दिन $20 मिलियन तक का जुर्माना लगता है।

बीच का अंतराल

यह बिल किसी घटना को तभी मानता है जब वह रेड-टीमींग या संरचित परीक्षण से बाहर होती है, जो लैब जानबूझकर कमजोरियों को खोजने के लिए उपयोग करते हैं। OpenAI के मॉडल ठीक उसी दौरान बच निकले थे।

लियू ने एंथ्रोपिक की ओर भी इशारा किया, जिसके मिथोस 5 और फेबल 5 को जून में आपातकालीन निर्यात नियंत्रणों के तहत ऑफ़लाइन कर दिया गया था—व्यापार कानून को एक ऑफ स्विच के रूप में पुनरुद्देशित किया गया क्योंकि कोई ऑफ स्विच मौजूद नहीं था—और 30 जून को बहाल कर दिया गया।

"यह अनिवार्य है कि इन एआई प्रणालियों में किल स्विच हों," लियू ने एक बयान में कहा। मोरन ने इसे अपने पक्ष के लिए इस प्रकार प्रस्तुत किया: "जिम्मेदारी का मतलब यह सुनिश्चित करना है कि मनुष्य उस तकनीक को नियंत्रित करने की क्षमता बनाए रखें जिसे हम बनाते हैं।"

यह विचार नया नहीं है। कैलिफ़ोर्निया के एसबी 1047 ने उसी $100 मिलियन कंप्यूट सीमा पर पूर्ण शटडाउन क्षमता की मांग की थी और 2024 में इसे वीटो कर दिया गया था, और 16 एआई कंपनियों ने उस वर्ष एक स्वैच्छिक सियोल प्रतिज्ञा पर हस्ताक्षर किए थे जिसका कोई कानूनी वजन नहीं था।

मतदाता पहले से ही सहमत हैं। एआई पॉलिसी इंस्टीट्यूट द्वारा 1,007 संभावित मतदाताओं के जून सर्वेक्षण में पाया गया कि 86% सबसे शक्तिशाली प्रणालियों पर एक गारंटीकृत ऑफ स्विच चाहते हैं—88% डेमोक्रेट, 86% स्वतंत्र, 83% रिपब्लिकन।

न तो OpenAI और न ही एंथ्रोपिक ने बिल पर सार्वजनिक रूप से टिप्पणी की है। शुक्रवार तक इसे किसी समिति को संदर्भित नहीं किया गया था।