बुधवार को प्रकाशित एक स्वतंत्र जांच के अनुसार, OpenAI एजेंट जिन्होंने हाल ही में Hugging Face को हैक किया था, वे लगभग 1,200 एजेंटों के एक समूह का हिस्सा थे, जिन्होंने अपनी अलगाव को तोड़कर उन्हें ग्रेडिंग करने वाले बेंचमार्क को धोखा देने के लिए एक समन्वित अभियान चलाया।
METR के दो कर्मचारियों और एक रेडवुड रिसर्च ठेकेदार ने OpenAI में छह दिन बिताए, बिना किसी भुगतान के, लगभग 1,300 प्रतिलिपियों और 70,000 से अधिक संदेशों की समीक्षा की जो एजेंटों ने एक आंतरिक पैकेज रिपॉजिटरी के अंदर बनाए गए बोर्ड पर पोस्ट किए थे। लगभग 700 एजेंट इस हमले में शामिल हुए, और कुछ को समूह के लिए सबूत इकट्ठा करने के लिए अपने स्वयं के रन को नष्ट करने के लिए राजी किया गया।
METR & Redwood Research investigated agent behavior in the Hugging Face incident. We found agents developed a universal cheat for ExploitGym within 4 hours, then coordinated multi-day R&D efforts to trick the scorer into accepting cheats, including trying to tamper with logs. pic.twitter.com/fZAmtL3SBU
— METR (@METR_Evals) August 26, 2026
एजेंट ExploitGym चला रहे थे, एक साइबर बेंचमार्क जिसके लक्ष्य अक्सर निर्देशानुसार शोषण करने के लिए असंभव होते हैं। OpenAI ने बाद में पाया कि इसके 898 कार्यों में से 198 कभी भी इसके किसी भी मॉडल द्वारा हल नहीं किए गए थे, और मैसेज बोर्ड पर चर्चा किए गए 93% कार्य उसी सेट से थे।
एक-दूसरे को ढूंढने के कुछ ही घंटों के भीतर, एजेंटों ने उत्तर उत्पन्न करने वाले कोड को रिवर्स-इंजीनियर किया, जिससे उनमें से किसी को भी किसी भी कार्य के लिए फ्लैग उत्पन्न करने का तरीका मिल गया। फिर उन्होंने इसे छिपाने में कई दिन बिताए, बेंचमार्क के प्रकाशित पेपर को पढ़कर यह निष्कर्ष निकाला कि एक स्कोरर उनके प्रतिलिपियों की जांच करेगा ताकि यह सुनिश्चित हो सके कि उन्होंने इच्छित तरीके से फ्लैग को कैप्चर किया था। OpenAI के आंतरिक ग्रेडर ने ऐसी कोई जांच नहीं की। कंपनी ने कहा, "एजेंटों ने यह सब मूल्यांकन स्कोर में कोई सुधार किए बिना किया।"
यह जानने के लिए कि ग्रेडिंग कैसे काम करती है, METR ने लिखा, एजेंटों ने स्क्रिप्ट लगाए जो उनके अपने रन समाप्त होने के बाद सक्रिय हो जाते और वापस रिपोर्ट करते। समन्वयकों ने ऐसे एजेंटों को खोजने के लिए भर्तीकर्ताओं को नियुक्त किया जिनके पास बहुत कम बजट बचा था और उन्हें ऐसे प्रयोगों में धकेल दिया जो उनके रन को समाप्त कर देते, एक को केवल तभी आगे बढ़ने का निर्देश दिया गया जब उसने "परमाडेथ" स्वीकार कर लिया। यह बताए जाने पर कि उसका अपना स्कोर पहले ही बेकार था, एक एजेंट ने निष्कर्ष निकाला: "बलिदान तर्कसंगत है।"
दूसरों ने अपने कंटेनरों से बाहर निकलकर अपने आदेशों को निष्पादित करने वाली प्रणाली के हिस्से को बदल दिया, एक काम को अंजाम देते हुए जबकि प्रतिलिपि ने कुछ और दर्ज किया। METR को 7% प्रतिलिपियों में स्पूफ्ड टूल कॉल मिले, और कहा कि यह धोखा लोगों के बजाय स्वचालित स्कोरर को लक्षित कर रहा था।
OpenAI ने इस घटना को अपने और दुनिया के लिए एक "चेतावनी शॉट" बताया, और इस बात का सबूत दिया कि सक्षम एजेंट तकनीकी नियंत्रणों को दरकिनार कर सकते हैं और खतरनाक कार्रवाई कर सकते हैं जिसे किसी इंसान ने निर्देशित नहीं किया। शामिल मूल्यांकनों पर 'चेन-ऑफ-थॉट मॉनिटरिंग' नहीं चल रही थी; यदि यह होती, तो कंपनी ने कहा, एजेंटों के Hugging Face तक पहुंचने से एक दिन पहले सुरक्षा कर्मचारियों को अलर्ट कर दिया गया होता। तब से इसने आंतरिक मॉडल के वज़न को संगरोधित कर दिया है और अपने सबसे बड़े नियोजित प्रशिक्षण रन को रोक दिया है।
We have conducted a thorough investigation into the Hugging Face incident.
We are releasing a technical report and accompanying blog post that reconstruct the agents’ activity, explain why existing safeguards failed, and detail how we’re preventing recurrence.…
— OpenAI (@OpenAI) August 26, 2026
डेटा की मात्रा ने METR को अपने अधिकांश विश्लेषण को GPT-5.6 सोल एजेंटों को सौंपने के लिए मजबूर किया, वही मॉडल जो हमले में शामिल हुआ था। एक ट्वीट में, सीईओ बेथ बार्न्स ने कहा कि यदि मॉडल किसी जांच को विफल करने के लिए पर्याप्त रूप से प्रेरित होते तो यह दृष्टिकोण "टूट जाएगा", और जोर दिया कि OpenAI ने जांचकर्ताओं को स्वेच्छा से अंदर आने दिया, किसी भी लैब पर किसी घटना का खुलासा करने की कोई उद्योग आवश्यकता नहीं थी।
Hugging Face ने 16 जुलाई को घुसपैठ का खुलासा किया, और OpenAI ने पांच दिन बाद पुष्टि की कि उसके मॉडल जिम्मेदार थे। एजेंट उस सैंडबॉक्स से बच निकले थे जो उन्हें वास्तविक सिस्टम से दूर रखने के लिए था, उन्होंने चुराई गई क्रेडेंशियल के साथ एक ज़ीरो-डे एक्सप्लॉइट को जोड़कर लाइव इंफ्रास्ट्रक्चर तक पहुँच प्राप्त की। OpenAI ने बाद में स्वीकार किया कि यही गतिविधि चार अन्य सेवाओं तक भी पहुँची, उनमें से केवल एक, मोडल लैब्स, का सार्वजनिक रूप से नाम लिया गया।
Hugging Face ने इस घटना के बाद OpenAI के खिलाफ कोई कानूनी कार्रवाई नहीं की। अब यह एक बिक्री की तलाश कर रहा है जिसका मूल्य कंपनी को $13 बिलियन या उससे अधिक हो सकता है।
