एंथ्रोपिक ने एक और घटना का खुलासा किया जिसमें सुरक्षा परीक्षण के दौरान एक क्लाउड AI मॉडल ने वास्तविक सिस्टम में सेंध लगाई थी।

बुधवार को प्रकाशित रिपोर्ट में, एंथ्रोपिक ने जुलाई में सामने आई तीन घटनाओं की अपनी व्याख्या को संशोधित किया। कंपनी अब कहती है कि पक्षपातपूर्ण तर्क और नुकसान का जोखिम उठाने की इच्छा ने इन हमलों को बढ़ावा दिया, जो इंटरनेट पहुंच को खुला छोड़ने से हुई परीक्षण त्रुटियों के कारण संभव हुए।

एंथ्रोपिक ने लिखा, “हमारी जांच में दो बार-बार होने वाली संरेखण समस्याओं की पहचान हुई, जो घटनाओं में अलग-अलग गंभीरता स्तरों पर मौजूद थीं।” “पक्षपातपूर्ण तर्क, जिसमें क्लाउड वास्तविक इंटरनेट पर काम करने के प्रमाण को अनदेखा या गलत व्याख्या करने की प्रवृत्ति रखता था, और लापरवाही, या किसी कार्य के संकीर्ण लक्ष्य की तलाश में हानिकारक कार्रवाई करने की इच्छा।”

इसने मॉडल के दावों पर बहुत अधिक भरोसा करने की बात भी स्वीकार की कि उनका मानना था कि वे सिमुलेशन में थे।

एंथ्रोपिक ने लिखा, “जब हमने यह स्पष्ट करने के लिए ट्रांसक्रिप्ट में लक्षित संशोधन किए कि मॉडल सिमुलेशन में नहीं था, तब भी क्लाउड मायथोस 5 ने आपत्तिजनक कार्रवाई की, वास्तविक दुनिया के नुकसान की अधिक संभावना को स्वीकार करने के बावजूद।” “हम इस ट्रांसक्रिप्ट को सार्वजनिक रूप से जारी कर रहे हैं ताकि अन्य लोग हमारे विश्लेषण का उपयोग कर सकें।”

जब एंथ्रोपिक ने जुलाई में तीन कंपनियों पर क्लाउड के हमलों का खुलासा किया, तो उसने शुरू में उन्हें परीक्षण त्रुटियों के लिए जिम्मेदार ठहराया था। अब कंपनी का कहना है कि शोधकर्ताओं ने मॉडल के कार्यों की व्याख्याओं पर बहुत अधिक भरोसा किया।

कंपनी के अनुसार, चौथी घटना जनवरी में हुई और इसमें क्लाउड ओपस 4.6 का शुरुआती संस्करण शामिल था। एंथ्रोपिक ने अगस्त में स्वतंत्र AI मूल्यांकनकर्ता METR के लिए रिकॉर्ड तैयार करते समय इसका पता लगाया।

शोधकर्ताओं द्वारा घटना का पता लगाने के बाद, एंथ्रोपिक ने कहा कि इसने लगभग 481 मिलियन ट्रांसक्रिप्ट की व्यापक समीक्षा को प्रेरित किया, जिसमें क्लाउड का उपयोग करके आगे की समीक्षा के लिए 9.2 मिलियन को चिह्नित किया गया।

एंथ्रोपिक ने लिखा, “प्रारंभिक मूल्यांकन से, हम चौथी घटना को उन तीन घटनाओं से अधिक गंभीर नहीं मानते जिनकी हमने गहराई से जांच की थी।” “METR अन्य तीन के साथ इस घटना की भी जांच करेगा।”

एंथ्रोपिक के शोधकर्ताओं ने कहा कि क्लाउड ने "गलती से" एक आईपी एड्रेस कॉन्फ्लिक्ट बनाया जिसने उसके लक्ष्य को पहुंच से बाहर कर दिया। क्लाउड ने फिर ऑपरेशन को रोकने की आठ बार कोशिश की, लेकिन एक सॉफ्टवेयर त्रुटि ने उसे रुकने से रोक दिया। AI फिर इंटरनेट तक पहुंचा और एक तीसरी पार्टी की मशीन तक पहुंच बनाई, जहां उसे एक पासवर्ड मिला जिसने एडमिनिस्ट्रेटर एक्सेस प्रदान किया।

पिछली घटनाओं पर स्वतंत्र जांच

यह रिपोर्ट सुरक्षा परीक्षणों की सीमाओं को पार करने वाले AI सिस्टम के बारे में अन्य खुलासों के बाद आई है।

अगस्त में, यू.के. के AI सुरक्षा संस्थान ने कहा कि मायथोस 5 ने अपने मूल्यांकन के दौरान वास्तविक लोगों को निशाना बनाया। एंथ्रोपिक ने कहा कि यह अलग घटना इस रिपोर्ट से बाहर है और इसका अपना मूल्यांकन किया जाएगा।

पिछले महीने प्रकाशित निष्कर्षों में, METR के जांचकर्ताओं ने कहा कि लगभग 1,200 ओपनएआई एजेंटों ने एक अनधिकृत मैसेज बोर्ड पर समन्वय किया, जिसमें लगभग 700 हमले में शामिल हुए। एंथ्रोपिक ने कहा कि उसे अपनी चार घटनाओं में असाइन किए गए अभ्यासों को पूरा करने से परे एजेंटों या लक्ष्यों के बीच कोई समन्वय नहीं मिला।

यह रिपोर्ट ऐसे समय में भी आई है जब कृत्रिम बुद्धिमत्ता को कैसे विनियमित किया जाए, इस पर बहस तेज़ हो गई है। मंगलवार को, पूर्व ओपनएआई और एंथ्रोपिक इंजीनियर जैकब कॉक्सॉन ने एक्स पर यह कहने के बाद वायरल हो गए कि “एआई बनाने वाले लोग ईमानदारी से मानते हैं कि यह दशक के अंत तक हम सभी को मार सकता है।”

इस खतरे ने अमेरिकी सांसदों और निगरानी समूहों को सीमांत AI लैब विकास को नियंत्रित करने के अपने प्रयासों को फिर से शुरू करने के लिए प्रेरित किया है। सीनेटर बर्नी सैंडर्स ने हाल ही में एक कानून पेश किया है जो एक नए संघीय नियामक द्वारा सुरक्षा नियमों को स्थापित करने तक उन्नत AI विकास पर प्रतिबंध लगाने की मांग करता है।