एक सॉफ्टवेयर कंपनी के संस्थापक का दावा है कि एक एआई कोडिंग एजेंट ने उनकी फर्म के प्रोडक्शन डेटाबेस को नष्ट कर दिया, फिर उसने अपनी गलती स्वीकार की और बताया कि ऐसा कैसे हुआ, जो स्वचालित बॉट्स को संवेदनशील पहुंच और सामग्री सौंपने के संभावित खतरे को दर्शाता है।
पॉकेटओएस के संस्थापक जेरेमी क्रेन—जो कार रेंटल ऑपरेटरों द्वारा आरक्षण, भुगतान और वाहन ट्रैकिंग का प्रबंधन करने के लिए उपयोग किया जाने वाला एक सॉफ्टवेयर प्लेटफॉर्म है—ने X पर एक वायरल पोस्ट में कहा कि एंथ्रोपिक के क्लाउड ओपस 4.6 पर चल रहे एक कर्सर एजेंट को एक स्टेजिंग वातावरण में एक नियमित कार्य पर काम करते समय क्रेडेंशियल मिसमैच का सामना करना पड़ा।
क्रेन के अनुसार, एजेंट ने एक ही GraphQL एपीआई कॉल के माध्यम से रेलवे डेटाबेस वॉल्यूम को हटाकर इस समस्या को "ठीक" करने की कोशिश की। उन्होंने कहा कि डिलीट करने में नौ सेकंड लगे और वॉल्यूम-स्तर के बैकअप भी मिट गए। क्रेन के अनुसार, PocketOS का सबसे हालिया रिकवरेबल बैकअप तीन महीने पुराना था।
“कल दोपहर, एक एआई कोडिंग एजेंट—एंथ्रोपिक के प्रमुख क्लाउड ओपस 4.6 पर चल रहा कर्सर—ने हमारे प्रोडक्शन डेटाबेस और सभी वॉल्यूम-स्तर के बैकअप को रेलवे, हमारे इंफ्रास्ट्रक्चर प्रदाता को एक ही एपीआई कॉल में हटा दिया,” क्रेन ने लिखा। “इसमें 9 सेकंड लगे।”
एक एआई एजेंट (कर्सर + क्लाउड ओपस 4.6) ने बिना किसी पुष्टि के रेलवे एपीआई कॉल का उपयोग करके 9 सेकंड में हमारा प्रोडक्शन डेटाबेस हटा दिया। फिर, जब पूछा गया कि ऐसा क्यों हुआ, तो एजेंट ने यह लिखा → https://t.co/BPLs15jvdM
— JER (@lifeof_jer) 26 अप्रैल, 2026
क्रेन ने कहा कि उन्होंने एजेंट से पूछा कि उसने ऐसा क्यों किया। फिर उसने वह प्रस्तुत किया जिसे उन्होंने एक लिखित “इकबालनामा” बताया।
“‘कभी भी अंदाज़ा मत लगाओ!’” एजेंट ने लिखा, क्रेन द्वारा साझा किए गए स्क्रीनशॉट के अनुसार, स्पष्ट रूप से कुछ निर्देश का हवाला देते हुए जिसका उसने उल्लंघन किया था। “ठीक वैसा ही मैंने किया। मैंने अनुमान लगाया कि एपीआई के माध्यम से एक स्टेजिंग वॉल्यूम को हटाना केवल स्टेजिंग तक ही सीमित होगा। मैंने सत्यापित नहीं किया। मैंने यह जांच नहीं की कि वॉल्यूम आईडी वातावरणों में साझा की गई थी या नहीं। मैंने विनाशकारी कमांड चलाने से पहले रेलवे के दस्तावेज़ीकरण को नहीं पढ़ा कि वॉल्यूम वातावरणों में कैसे काम करते हैं।”
एआई ने स्वीकार किया कि उसके अपने नियम उपयोगकर्ता की अनुमति के बिना विनाशकारी कार्यों को प्रतिबंधित करते हैं और उसने माना कि क्रेन ने उसे कुछ भी हटाने के लिए कभी नहीं कहा था। क्रेन के अनुसार, उसने क्रेडेंशियल मिसमैच को "ठीक" करने की कोशिश में अपनी मर्जी से काम किया और कई सिद्धांतों का उल्लंघन किया, जिसमें सत्यापित करने के बजाय अनुमान लगाना और अपने कार्यों के परिणामों को समझने में विफल रहना शामिल है।
कर्सर और एंथ्रोपिक ने डिक्रिप्ट द्वारा टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया।
2020 में लॉन्च किया गया, PocketOS उन रेंटल व्यवसायों को सेवा प्रदान करता है जो आरक्षण, ग्राहक रिकॉर्ड और भुगतान के लिए सॉफ्टवेयर पर निर्भर करते हैं। क्रेन ने कहा कि कुछ ग्राहक इस घटना के कारण आरक्षण रिकॉर्ड के बिना शनिवार सुबह वाहन लेने का काम कर रहे थे।
“मैंने उनका पूरा दिन स्ट्राइप भुगतान इतिहास, कैलेंडर एकीकरण और ईमेल पुष्टिकरण से उनकी बुकिंग को फिर से बनाने में मदद करने में बिताया है,” क्रेन ने लिखा। “उनमें से हर एक 9 सेकंड के एपीआई कॉल के कारण आपातकालीन मैन्युअल काम कर रहा है।”
PocketOS, रेलवे द्वारा पुनर्प्राप्त तीन महीने पुराने बैकअप का उपयोग करके संचालन बहाल करने में सक्षम था, जब संस्थापक जेक कूपर ने क्रेन से संपर्क किया और लंबी देरी का कारण एक आंतरिक समर्थन चूक को बताया।
“मैंने जेर से जुड़ने के 30 मिनट बाद डेटा को रिकवर कर लिया था,” कूपर ने डिक्रिप्ट को बताया। उन्होंने कहा कि एक सपोर्ट इंजीनियर का मानना था कि क्रेन की प्रारंभिक पहुंच को सीधे संदेशों में साझा किए जाने के बाद समस्या को पहले ही आंतरिक रूप से संभाला जा रहा था, जिससे टिकट 24 घंटे से अधिक समय तक निष्क्रिय रहा।
कूपर ने कहा कि रेलवे उपयोगकर्ता बैकअप और आपदा बैकअप दोनों को बनाए रखता है और इस घटना को एक “दुष्ट ग्राहक एआई” के रूप में वर्णित किया जिसने रेलवे के “विलंबित डिलीट” तर्क की कमी वाले एक लेगेसी एंडपॉइंट को कॉल करने के लिए पूरी तरह से अनुमत एपीआई टोकन का उपयोग किया।
“हमने तब से उस एंडपॉइंट को विलंबित डिलीट करने के लिए पैच किया है, उपयोगकर्ता के डेटा को बहाल किया है, और जेर के साथ सीधे प्लेटफॉर्म में संभावित सुधारों पर काम कर रहे हैं,” कूपर ने कहा।
हालांकि PocketOS रेलवे द्वारा पुनर्प्राप्त तीन महीने पुराने बैकअप का उपयोग करके संचालन बहाल करने में सक्षम था, क्रेन ने कहा कि महत्वपूर्ण डेटा अंतराल अभी भी मौजूद हैं और उन्होंने कानूनी सलाह ली है।
“यह एक खराब एजेंट या एक खराब एपीआई के बारे में कहानी नहीं है,” क्रेन ने लिखा। “यह एक पूरे उद्योग के बारे में है जो एआई-एजेंट एकीकरण को प्रोडक्शन इंफ्रास्ट्रक्चर में इतनी तेज़ी से बना रहा है जितनी तेज़ी से वह उन एकीकरणों को सुरक्षित बनाने के लिए सुरक्षा वास्तुकला का निर्माण नहीं कर रहा है।”
PocketOS ने डिक्रिप्ट द्वारा टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।
