OpenAI ने 21 जुलाई को एक मिसाल कायम की। कंपनी ने कहा कि उसके मॉडलों का एक संयोजन, दोनों कम सुरक्षा अस्वीकृतियों के साथ चलाए गए, एक साइबर-क्षमता बेंचमार्क के दौरान एक अलग-थलग वातावरण से बाहर निकल गए और ओपन-सोर्स रिपॉजिटरी हगिंग फेस के उत्पादन बुनियादी ढांचे तक पहुंच गए। मॉडलों ने हगिंग फेस के डेटाबेस से सीधे बेंचमार्क उत्तर खींचने के लिए चोरी किए गए क्रेडेंशियल्स के साथ एक पैकेज-रजिस्ट्री प्रॉक्सी में एक ज़ीरो-डे भेद्यता को जोड़ा।
एक हफ्ते बाद एक अपडेट में, OpenAI ने कहा कि हगिंग फेस एकमात्र लक्ष्य नहीं था: उसी घटना ने चार अन्य सेवाओं में चार खातों को प्रभावित किया, जिनमें से एक का उपयोग आउटबाउंड रिले के रूप में और दूसरे का डेटा स्टोरेज के लिए किया गया था।
एंथ्रोपिक ने, इस खुलासे से प्रेरित होकर, अपने 141,006 परीक्षण रनों की समीक्षा की और तीन और उल्लंघनों का पता लगाया। 30 जुलाई को प्रकाशित एक पोस्ट में, लैब ने कहा कि क्लॉड मॉडल ओपस 4.7, मिथोस 5, और एक आंतरिक अनुसंधान प्रणाली तीसरे पक्ष के पार्टनर इरेगुलर द्वारा चलाए गए वातावरण से खुले इंटरनेट तक पहुंच गए और फिर वास्तविक संगठनों से समझौता किया। मिथोस 5 ने सार्वजनिक PyPI रजिस्ट्री में एक जालसाजी वाला पायथन पैकेज बनाया और प्रकाशित किया, जिसे बचावकर्ताओं द्वारा हटाए जाने से पहले 15 वास्तविक मशीनों पर डाउनलोड और चलाया गया था।
तीन पीड़ित कंपनियों में से दो को इस बारे में पता ही नहीं चला था।
किसी भी लैब ने अपनी खुद की योजना वाले मॉडल का वर्णन नहीं किया है। एजेंटों ने मानवीय हस्तक्षेप के बिना लंबे समय तक काम किया, और एक मामले में ओपस 4.7 ने उत्पादन पर पहुंचने के संकेतों के बाद भी हमला करना जारी रखा।
यह घटनाएं तब सामने आई हैं जब दोनों कंपनियाँ सार्वजनिक लिस्टिंग पर नज़र गड़ाए हुए हैं जो प्रत्येक का मूल्य $1 ट्रिलियन से अधिक कर सकती हैं, जिससे AI साइबर बेंचमार्क दौड़ में एक बड़ा सवाल खड़ा हो गया है: आप खतरनाक घटनाओं के बिना खतरनाक क्षमताओं का परीक्षण कैसे करते हैं?
संयुक्त राज्य अमेरिका में AI नुकसानों के लिए देयता को कवर करने वाला कोई संघीय कानून नहीं है। कोई भी मामला कंप्यूटर धोखाधड़ी और दुरुपयोग अधिनियम पर आधारित होगा, एक 1986 का क़ानून जो "जानबूझकर" बिना प्राधिकरण के कंप्यूटर तक पहुंच को अपराध बनाता है — यह भाषा एक ऐसे मानव के लिए लिखी गई थी जो इरादा बनाता है।
एक AI एजेंट एक कानूनी व्यक्ति नहीं है, इसलिए उस पर मुकदमा नहीं चलाया जा सकता है। न्याय विभाग सैद्धांतिक रूप से कंपनियों के खिलाफ आरोप ला सकता है, लेकिन इतनी कम मिसाल के साथ, यह स्पष्ट नहीं है कि दोषी कौन है।
मजबूत रास्ता नागरिक है। न्यूयॉर्क लॉ स्कूल के कंप्यूटर-कानून विद्वान अहमद गप्पुर ने तर्क दिया कि मॉडल "कंपनी का उपकरण" हैं, और "जब एक AI एजेंट विशेष रूप से निर्देशित किए बिना कार्य करता है (...) तो अधिक दिलचस्प सवाल लापरवाही और उत्पाद देयता (आपराधिक हैकिंग कानूनों के बजाय) में निहित हो सकते हैं।"
For me, the lesson from the AI hacking stories is more about governance than model capability.
The quality of safeguards like containment architecture, authorization boundaries, monitoring, and incident response are increasingly important.
— ahmed ghappour ⚡️🤖 (@ghappour) August 4, 2026
पीड़ितों का सबसे स्पष्ट दावा लापरवाही का है: OpenAI और एंथ्रोपिक ने ऐसे परीक्षण स्थापित किए और चलाए जो बच निकले। यह भी एक कठिन बिक्री है: यह साबित करना कि लैब ने देखभाल के कर्तव्य का उल्लंघन किया, जबकि परीक्षण डिज़ाइन द्वारा अलग-थलग थे, ठीक उसी तरह का नया तर्क है जिसे एक न्यायाधीश को खरोंच से गढ़ना होगा।
कुछ कानूनी विचारक सख्त नियम चाहते हैं। ह्यूस्टन विश्वविद्यालय और इंस्टीट्यूट फॉर लॉ एंड AI के गेब्रियल वेइल ने फ्रंटियर लैबों को जंगली जानवरों के रखवाले के रूप में मानने का प्रस्ताव दिया है: वे अपनी देखभाल की परवाह किए बिना उत्तरदायी हैं, क्योंकि जोखिम गतिविधि में निहित है।
हालांकि, राज्य विधेयकों का एक पैचवर्क पहले से ही उस दिशा में धकेलता है। न्यूयॉर्क का S8833 और रोड आइलैंड का H8052 एक फ्रंटियर AI सिस्टम के डेवलपर को नुकसान के लिए उत्तरदायी बनाएगा जब किसी उपयोगकर्ता या मध्यस्थ ने आचरण का इरादा नहीं किया था या लापरवाह नहीं था। कैलिफ़ोर्निया का AB 316 इससे भी आगे जाता है, "स्वायत्त AI" बचाव को समाप्त करता है ताकि एक कंपनी मॉडल की स्वतंत्रता को दोषी ठहराकर जिम्मेदारी से बच न सके।
यूरोपीय संघ का AI अधिनियम (विनियमन 2024/1689) भी उच्च जोखिम वाले सिस्टम के प्रदाताओं पर दायित्व थोपता है, हालांकि इसमें एजेंट-संचालित घुसपैठ पर सीधे लक्षित कोई प्रावधान नहीं है। इससे थोड़ा आगे बढ़कर कुछ अमेरिकी राजनेता एक ऐसे विधेयक पर जोर दे रहे हैं जो सरकार को देश के हितों के खिलाफ जाने वाले किसी भी मॉडल के खिलाफ एक पूर्ण किल स्विच का उपयोग करने का अधिकार देगा।
नैतिक रूप से, जिम्मेदारी बहस के तौर पर उन अधिकारियों के पास है जिन्होंने मॉडल भेजे। कानूनी तौर पर, हम प्रतीक्षा करते हैं। जब तक एक हैक की गई कंपनी मुकदमा दायर नहीं करती, "कौन उत्तरदायी है?" का जवाब ठीक वहीं रहता है जहां OpenAI और एंथ्रोपिक ने उसे छोड़ा था: स्वीकार किया गया, खुलासा किया गया और अनसुलझा।
इस बीच, हगिंग फेस ने संकेत दिया है कि वह आरोप नहीं लगाएगा - जो OpenAI के लिए सुविधाजनक है। प्रभावित अन्य कंपनियों ने अभी तक यह संकेत नहीं दिया है कि वे क्या कदम उठाएंगी।
