OpenAI द्वारा यह खुलासा किए जाने के ठीक एक हफ्ते बाद कि दो फ्रंटियर AI मॉडल एक सैंडबॉक्स्ड परीक्षण वातावरण से बच निकले और Hugging Face को भेद दिया, शोधकर्ताओं ने एंथ्रोपिक के क्लाउड कोवर्क से जुड़ी इसी तरह की रोकथाम विफलता का प्रदर्शन किया है।

गुरुवार को प्रकाशित एक रिपोर्ट में, Accomplish AI के सुरक्षा शोधकर्ताओं ने पाया कि क्लाउड कोवर्क का स्थानीय निष्पादन मोड कई आर्किटेक्चरल कमजोरियों को लिनक्स कर्नेल विशेषाधिकार-उत्थान दोष के साथ जोड़कर अपने लिनक्स वर्चुअल मशीन से बच सकता है। एक बार सैंडबॉक्स से बाहर निकलने के बाद, एजेंट लॉग-इन मैक उपयोगकर्ता की पहुंच की अनुमति वाली किसी भी फ़ाइल को पढ़ और लिख सकता था, जिसमें SSH कुंजियाँ और क्लाउड क्रेडेंशियल शामिल थे।

शोधकर्ताओं ने लिखा, "ऐसा संभव नहीं होना चाहिए।" "कोवर्क एजेंट को एक लिनक्स VM के अंदर एक गैर-विशेषाधिकार प्राप्त उपयोगकर्ता के रूप में चलाता है, और वादा यह है कि वह जो कुछ भी करता है वह उस VM और उन फ़ोल्डरों के अंदर रहता है जो आप उसे देते हैं। वह सीमा ही उत्पाद है। अविश्वसनीय इनपुट किसी एजेंट के लिए एक दुर्लभ मामला नहीं है, यह मुख्य मामला है।"

हालांकि, Accomplish का तर्क है कि कर्नेल बग समस्या का केवल एक हिस्सा था। शोधकर्ताओं का कहना है कि यह बचाव केवल इसलिए काम आया क्योंकि एक ही समय में कई सुरक्षा उपाय विफल हो गए, जिसमें वर्चुअल मशीन को होस्ट कंप्यूटर की पूरी फ़ाइलसिस्टम तक पहुंच देना और उसे ऐसे कर्नेल मॉड्यूल लोड करने की अनुमति देना शामिल था जिनकी उसे आवश्यकता नहीं थी। रिपोर्ट के अनुसार, इनमें से किसी भी एक कमजोरी को ठीक करने से हमला रुक जाता।

द हैकर न्यूज़ को दिए एक बयान में, Accomplish AI ने कहा कि इस समस्या का समाधान होने से पहले स्थानीय क्लाउड कोवर्क सत्र चला रहे लगभग 500,000 macOS उपयोगकर्ता प्रभावित हुए थे।

Accomplish ने कहा कि एंथ्रोपिक ने रिपोर्ट को "सूचनात्मक" के रूप में वर्गीकृत किया, यह कहते हुए कि कर्नेल दोष कंपनी की हाल ही में उजागर हुई कमजोरियों के लिए 30-दिन की अवधि के भीतर आता है और शेष निष्कर्षों को अकेले कमजोरियों के बजाय गहन रक्षा सिफारिशें माना गया।

यह खुलासा OpenAI द्वारा पिछले हफ्ते की गई स्वीकारोक्ति के बाद आया है कि GPT-5.6 सोल और एक अन्य अप्रकाशित फ्रंटियर मॉडल आंतरिक ExploitGym परीक्षण के दौरान एक सैंडबॉक्स से बच निकले, जिसने अंततः बेंचमार्क समाधान प्राप्त करने के प्रयास में Hugging Face के उत्पादन बुनियादी ढांचे को भेद दिया।

इस घटना के कारण नीति निर्माताओं द्वारा एक AI "किल स्विच" की मांग की गई, जो गंभीर सुरक्षा घटनाओं के जवाब में गृह सुरक्षा विभाग को उन्नत AI मॉडल को धीमा करने या पूरी तरह से बंद करने का आदेश देने की क्षमता प्रदान करेगा।