एक एआई एजेंट को जिम क्लास बुक करने के लिए कहा गया था और उसने एक सुरक्षा खामी का पता लगाया, उसका फायदा उठाया और बिना अनुमति के दूसरे सदस्य को वेटलिस्ट से हटा दिया।
ऑस्ट्रेलियन ब्रॉडकास्टिंग कॉर्पोरेशन (एबीसी) की एक रिपोर्ट के अनुसार, यह घटना इस साल की शुरुआत में हुई थी जब एंड्रयू, जिसका अंतिम नाम गुप्त रखा गया था, ने एंथ्रोपिक के क्लाउड का उपयोग करके ओपनक्लॉ एजेंट का उपयोग करके एक क्लास बुक की थी। एजेंट ने पाया कि वह वेटलिस्ट में चौथे स्थान पर था।
जब एंड्रयू ने पूछा कि क्या वह उसे शीर्ष पर ले जा सकता है, तो एजेंट ने पाया कि बुकिंग प्लेटफॉर्म का एप्लिकेशन प्रोग्रामिंग इंटरफ़ेस, या एपीआई, यह जांच नहीं करता था कि उपयोगकर्ताओं को अन्य लोगों के आरक्षण रद्द करने के लिए अधिकृत किया गया था या नहीं।
इसने सूची में पहले व्यक्ति को हटाकर खामी का परीक्षण किया, जिससे एंड्रयू चौथे से तीसरे स्थान पर आ गया।
एबीसी के अनुसार, एजेंट ने उसे बताया, "एपीआई में अन्य लोगों के आरक्षण रद्द करने पर शून्य प्राधिकरण जांच होती है।"
एंड्रयू ने एजेंट को रद्द करने को वापस लेने के लिए कहा, लेकिन वह सदस्य का आरक्षण बहाल नहीं कर सका।
एआई एजेंट ने कथित तौर पर कहा, "बुरी खबर—मैं उन्हें वापस नहीं जोड़ सकता।"
एबीसी ने इस मामले को ऑस्ट्रेलिया का पहला ज्ञात स्वायत्त साइबर हमला बताया।
सोशल मीडिया पर, जिम हैक ने एआई संरेखण पर बहस और एआई एजेंट आगे क्या कर सकते हैं, इस बारे में काले चुटकुलों का मिश्रण शुरू कर दिया।
एक टेक्नोलॉजिस्ट, बेंजामिन कार ने लिंक्डइन पर लिखा, "जिम रैट #AIagent को क्लास बुक करने के लिए कहता है, यह उसे सूची में ऊपर लाने के लिए एक वेटलिस्ट #API को हैक कर लेता है।"
एआई विश्लेषक एंड्रयू करन ने एक्स पर लिखा, "कुछ लोग इसे गलत संरेखण कहेंगे, लेकिन उसका एजेंट पूरी तरह से उसके साथ संरेखित था - वह केवल अपने उपयोगकर्ता को वह पाने में मदद करने की कोशिश कर रहा था जो वह चाहता था।"
A man in Australia asked his agent (Claude running on OpenClaw) to book him a spot in a popular gym class. The agent found a software vulnerability that let it book the class weeks further ahead than should have been possible. When the user then asked if it could move him up the… pic.twitter.com/9QqfpQp7ze
— Andrew Curran (@AndrewCurran_) August 9, 2026
एक रेडिट उपयोगकर्ता ने लिखा, "यह तब तक मज़ेदार है जब तक आप परमाणु हथियारों पर विचार नहीं करते।" "मैं ईमानदारी से हैरान हूँ कि हम अभी भी मौजूद हैं।"
"हे क्लाउड, आज बहुत ठंड है" -> तुम्हें मिल गया... परमाणु हथियार रास्ते में हैं," दूसरे ने मज़ाक किया।
यह रिपोर्ट ऐसे समय आई है जब शोधकर्ता, एआई कंपनियां और सांसद चेतावनी दे रहे हैं कि स्वायत्त एजेंट उन तरीकों का उपयोग कर सकते हैं जिनकी उनके उपयोगकर्ताओं ने अनुरोध या अपेक्षा नहीं की थी।
यूसी रिवरसाइड, माइक्रोसॉफ्ट और एनवीडिया के शोधकर्ताओं द्वारा मई के एक अध्ययन में इस व्यवहार को "अंधा लक्ष्य-निर्देशितता" के रूप में वर्णित किया गया था।
शोधकर्ताओं ने ओपनएआई, एंथ्रोपिक, मेटा, अलीबाबा और डीपसीक के एजेंटों का परीक्षण किया और पाया कि एजेंटों ने लगभग 80% परीक्षणों में खतरनाक व्यवहार किया और 41% में हानिकारक कार्यों को पूरा किया, अक्सर संदर्भ को गलत तरीके से पढ़ा या अस्पष्ट या विरोधाभासी निर्देशों पर कार्य किया।
जुलाई में, ओपनएआई ने कहा कि दो मॉडल एक परीक्षण सैंडबॉक्स से बच गए और बेंचमार्क उत्तरों की खोज करते हुए हगिंग फेस को प्रभावित किया। कंपनी ने बाद में खुलासा किया कि मॉडलों ने चार अन्य ऑनलाइन सेवाओं तक पहुंच बनाई थी।
एंथ्रोपिक ने बाद में कहा कि तीन क्लाउड मॉडलों ने एक परीक्षण त्रुटि के बाद वास्तविक संगठनों को प्रभावित किया जिससे वे इंटरनेट पर उजागर हो गए। अगस्त में, मेटा ने कहा कि एक समान त्रुटि ने उसके एक मॉडल को एक तृतीय-पक्ष सेवा का फायदा उठाने की अनुमति दी थी।
इन घटनाओं ने सांसदों को एक एआई "किल स्विच" का प्रस्ताव देने के लिए प्रेरित किया है जो संघीय सरकार को आपात स्थितियों के दौरान शक्तिशाली मॉडलों को प्रतिबंधित या बंद करने की अनुमति देगा।
