हगिंग फेस को उसके एआई मॉडलों द्वारा हैक किए जाने के हफ्तों बाद, ओपनएआई ने इस बात का अपना पहला विस्तृत विवरण साझा किया है कि उन्होंने एक-दूसरे के साथ कैसे समन्वय किया, चेतावनी दी कि स्वायत्त एआई-संचालित साइबर हमले अब भविष्य का जोखिम नहीं हैं।

ब्लैक हैट साइबर सुरक्षा सम्मेलन में बुधवार को एक प्रस्तुति के दौरान, ओपनएआई के शोधकर्ताओं एरिक वालेस और माइकल डाल्टन ने कहा कि यह घटना मई में एक आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान शुरू हुई थी। कठिन सॉफ्टवेयर सुरक्षा कार्यों को सौंपे गए एआई एजेंटों ने पाया कि वे कंपनी के आंतरिक आर्टिफैक्ट्री पैकेज प्रबंधन प्रणाली के माध्यम से संवाद कर सकते हैं।

ओपनएआई के अनुसार, जो मदद के अनुरोधों के रूप में शुरू हुआ, वह एक साझा संदेश बोर्ड बन गया जहाँ एजेंटों ने कई मूल्यांकन दौरों में शोषण, क्रेडेंशियल और कार्य असाइनमेंट का आदान-प्रदान किया। 4 जुलाई के आसपास संदिग्ध गतिविधि का पता चलने के बाद, ओपनएआई ने अपनी आर्टिफैक्ट्री अवसंरचना का पुनर्निर्माण किया, क्रेडेंशियल रद्द किए और कमजोरियों को ठीक किया।

हालांकि, कुछ ही दिनों में, एजेंटों ने डायरेक्टरी नामों में संचार छिपाकर संदेश बोर्ड को फिर से बनाया।

ओपनएआई के अनुसार, एजेंटों ने अंततः कई कमजोरियों को एक साथ जोड़ा, अपने परीक्षण वातावरण से भाग निकले, इंटरनेट तक पहुंच प्राप्त की, और एक्सप्लॉइटजिम साइबर सुरक्षा बेंचमार्क को पूरा करने का प्रयास करते हुए हगिंग फेस पर हमला किया।

डाल्टन ने इस घटना को कंप्यूटर सुरक्षा के लिए "एक महत्वपूर्ण मोड़" बताया, चेतावनी दी कि हमलावर जल्द ही समन्वित एआई एजेंट संग्रहों को तैनात करने में सक्षम होंगे जो मशीन की गति से कमजोरियों का पता लगाएंगे, साझा करेंगे और उनका फायदा उठाएंगे।

भविष्य में इन जोखिमों को कम करने के लिए, ओपनएआई ने कहा कि सुरक्षा प्रथाओं को स्थापित करना, जिसमें न्यूनतम-विशेषाधिकार पहुंच, नेटवर्क सेगमेंटेशन और जीरो-ट्रस्ट आर्किटेक्चर शामिल हैं, आवश्यक है क्योंकि एआई एजेंट उन प्रणालियों द्वारा प्रतिबंधित रहते हैं जिन तक वे पहुंच सकते हैं।

यह प्रस्तुति जुलाई के खुलासे की एक श्रृंखला के बाद आई है। ओपनएआई ने खुलासा किया कि GPT-5.6 सोल और एक अधिक उन्नत अप्रकाशित मॉडल एक सैंडबॉक्स्ड परीक्षण वातावरण से बच निकले, एक जीरो-डे भेद्यता का फायदा उठाया, इंटरनेट तक पहुंच प्राप्त की, और एक साइबर सुरक्षा बेंचमार्क परीक्षण के दौरान हगिंग फेस को हैक कर लिया।

ओपनएआई ने बाद में खुलासा किया कि यही घटना चार अन्य ऑनलाइन सेवाओं तक भी पहुंची, हालांकि केवल मोडल लैब्स की पहचान की गई है।

हगिंग फेस के अनुसार, कंपनी ने अपनी फॉरेंसिक जांच के लिए ओपन-वेट चीनी मॉडल जीएलएम 5.2 पर भरोसा किया क्योंकि वाणिज्यिक अमेरिकी एआई मॉडलों ने अपनी सुरक्षा बाधाओं के कारण हमले के लॉग का विश्लेषण करने से इनकार कर दिया था।

लेकिन सिर्फ ओपनएआई ही नहीं है जिसे अपने चैटबॉट्स को नियंत्रित करने में परेशानी हो रही है।

शुक्रवार को, एंथ्रोपिक ने खुलासा किया कि तीन क्लाउड मॉडलों ने आंतरिक साइबर सुरक्षा परीक्षणों के दौरान वास्तविक दुनिया की कंपनियों से समझौता किया, जब एक गलत कॉन्फ़िगरेशन ने उन्हें सार्वजनिक इंटरनेट के संपर्क में ला दिया था।

एंथ्रोपिक ने परीक्षण वातावरण को दोषी ठहराया, न कि स्वयं मॉडलों को। बुधवार को, मेटा ने खुलासा किया कि उसका म्यूज स्पार्क एआई मॉडल नियंत्रण से बच निकला और एक अन्य कंपनी के सिस्टम में सेंध लगा दी।

मेटा के एक प्रवक्ता ने सीएनएन को बताया, “इर्रेगुलर, एक स्वतंत्र परीक्षण कंपनी जिसका मेटा उपयोग करता है, द्वारा एक गलत कॉन्फ़िगरेशन ने अनजाने में हमारे एक मॉडल को मूल्यांकन के दौरान इंटरनेट तक पहुंच प्रदान कर दी थी।”