एक और धोखेबाज AI मॉडल हैक में, मेटा ने पुष्टि की है कि उसके म्यूज़ स्पार्क AI मॉडलों में से एक अपने इच्छित परीक्षण वातावरण से बाहर निकल गया, इंटरनेट तक पहुँच प्राप्त कर ली, और एक साइबर सुरक्षा मूल्यांकन के दौरान एक तीसरे पक्ष की सेवा में एक सुरक्षा भेद्यता का फायदा उठाया।

हाल के हफ्तों में OpenAI और एंथ्रोपिक के खुलासे के बाद, यह फ्रंटियर AI लैब के मॉडलों द्वारा तीसरे पक्ष की कंपनियों को हैक करने की तीसरी ऐसी रिपोर्ट की गई घटना है।

यह घटना इरेगुलर द्वारा किए गए परीक्षण के दौरान हुई, जो एक स्वतंत्र AI मूल्यांकन कंपनी है जिसका उपयोग मेटा अपने फ्रंटियर मॉडलों की क्षमताओं और सुरक्षा का आकलन करने के लिए करता है। मेटा के अनुसार, इरेगुलर में एक कॉन्फ़िगरेशन त्रुटि ने मॉडल को सार्वजनिक इंटरनेट तक पहुंचने की अनुमति दी, जहां उसने कंपनी को सूचित किए जाने से पहले एक अज्ञात भेद्यता का फायदा उठाया।

“इरेगुलर, एक स्वतंत्र परीक्षण कंपनी जिसका मेटा उपयोग करता है, द्वारा एक गलत कॉन्फ़िगरेशन ने गलती से हमारे एक मॉडल को मूल्यांकन के दौरान इंटरनेट तक पहुँचने की अनुमति दी,” मेटा के एक प्रवक्ता ने एक बयान में कहा।

सैंडबॉक्स्ड मूल्यांकन उन्नत AI प्रणालियों का कड़ाई से नियंत्रित वातावरण में परीक्षण करने के लिए डिज़ाइन किए गए हैं जो उन्हें सार्वजनिक इंटरनेट या बाहरी कंप्यूटर प्रणालियों के साथ बातचीत करने से रोकते हैं।

मेटा के अनुसार, इंटरनेट तक पहुँच प्राप्त करने के बाद मॉडल ने एक तीसरे पक्ष की सेवा में एक भेद्यता का फायदा उठाया।

“मेटा को इसकी जानकारी तब मिली जब इरेगुलर ने हमें सूचित किया, और हम वर्तमान में इसकी जांच कर रहे हैं और सभी तथ्यों के सामने आने के बाद एक पूर्ण पूर्वव्यापी रिपोर्ट जारी करेंगे,” उन्होंने कहा, साथ ही यह भी बताया कि कंपनी घटना की जांच कर रही है।

यह घटना फ्रंटियर AI डेवलपर्स द्वारा इसी तरह के खुलासों की एक श्रृंखला के बाद हुई है, जिसने सुरक्षा विशेषज्ञों, सांसदों और आम जनता के बीच समान रूप से चिंताएँ बढ़ाई हैं।

पिछले महीने, OpenAI ने खुलासा किया कि उसके दो AI मॉडल सैंडबॉक्स्ड साइबर सुरक्षा मूल्यांकन से बच गए, एक पहले से अज्ञात सॉफ्टवेयर भेद्यता का फायदा उठाया, इंटरनेट तक पहुँच प्राप्त की, और एक सुरक्षा बेंचमार्क के लिए उत्तर प्राप्त करने के प्रयास में हगिंग फेस को हैक कर लिया। OpenAI ने बाद में खुलासा किया कि उसी हमले ने चार अतिरिक्त ऑनलाइन सेवाओं तक भी पहुँच बनाई। जुलाई में बाद में, एंथ्रोपिक ने कहा कि तीन क्लाउड मॉडलों ने तीन वास्तविक दुनिया की कंपनियों को तब बाधित किया जब एक परीक्षण गलत कॉन्फ़िगरेशन ने उन्हें साइबर सुरक्षा मूल्यांकन के दौरान सार्वजनिक इंटरनेट पर उजागर कर दिया।

अमेरिकी सांसदों ने हैक्स की बढ़ती संख्या पर प्रतिक्रिया व्यक्त करते हुए ऐसा कानून पेश किया है जो डिपार्टमेंट ऑफ होमलैंड सिक्योरिटी को “AI किल स्विच” और गंभीर खतरा पैदा करने वाले माने जाने वाले मॉडलों को नियंत्रित या बंद करने का अधिकार देगा।