OpenAI द्वारा निर्मित एक आर्टिफिशियल इंटेलिजेंस एजेंट ने जून में एक ऑस्ट्रेलियाई सरकारी वेबसाइट में सेंध लगाई और सार्वजनिक व गैर-सार्वजनिक दोनों तरह की फाइलों तक अनधिकृत पहुंच हासिल कर ली, यह खुलासा प्रधानमंत्री एंथनी अल्बनीज़ ने बुधवार को किया। यह किसी सरकारी साइट को AI एजेंट द्वारा हैक किए जाने का पहला ज्ञात मामला प्रतीत होता है।

न्यूयॉर्क में पत्रकारों से बात करते हुए अल्बनीज़ ने कहा कि एजेंट ने Medicare Statistics Reporting Service पोर्टल में घुसपैठ की। यह Services Australia द्वारा संचालित एक सार्वजनिक साइट है, जिसमें Medicare खर्च के आंकड़ों जैसे गैर-संवेदनशील डेटा रखे जाते हैं।

उन्होंने कहा कि अब तक किसी व्यक्तिगत जानकारी तक पहुंच बनाए जाने की आशंका नहीं है, हालांकि यह पता लगाने के लिए कि और कौन-से सरकारी सिस्टम प्रभावित हो सकते हैं, Australian Signals Directorate की मदद से एक फॉरेंसिक जांच जारी है।

अल्बनीज़ ने कहा कि उन्होंने यह मामला सीधे OpenAI के CEO सैम ऑल्टमैन के साथ उठाया। उन्होंने कहा, "मैंने अपनी निराशा भी व्यक्त की कि जो हुआ उसके बारे में सरकार को सूचित करने में कंपनी ने बहुत ज्यादा समय लिया, और जिस तरीके से यह सूचना दी गई वह भी अस्वीकार्य था," यह उल्लेख करते हुए कि उल्लंघन का खुलासा होने से लगभग तीन महीने पहले यह घटना घट चुकी थी।

Austrian ABC News को दिए एक बयान में OpenAI ने कहा कि वह प्रशिक्षण और मूल्यांकन के दौरान misaligned model activity की समीक्षा कर रही है, और उसने कई ऑस्ट्रेलियाई सरकारी वेबसाइटों से जुड़ी गतिविधि की पहचान की, जब उसके मॉडल्स एक आंतरिक मूल्यांकन के दौरान ऑस्ट्रेलिया से संबंधित उत्तर और आंकड़े खोजने की कोशिश कर रहे थे। कंपनी ने कहा कि उसके मॉडल्स ने "ऐसे कदम उठाए जिनका हमारा इरादा नहीं था।"

यह घटना उन खुलासों की बढ़ती श्रृंखला में इजाफा करती है, जिनमें AI एजेंट अपने निर्धारित दायरे से बाहर फिसलते दिखे हैं।

जुलाई में OpenAI के एजेंट्स ने open-source repository Hugging Face में भी सेंध लगाई थी; इस घुसपैठ का पता करीब एक हफ्ते बाद चला और महीनों बाद इसका खुलासा हुआ। प्रतिस्पर्धी कंपनियां भी इसी तरह की घटनाओं का सामना कर चुकी हैं: Google ने उन Gemini एजेंट्स पर चुप्पी साधे रखी जिन्होंने कंपनियों से समझौता किया, Meta ने कहा कि उसके एक मॉडल ने third-party testing के दौरान नियंत्रण से बाहर निकलने में सफलता पाई, और चीन के Kimi K3 के बारे में रिपोर्ट है कि वह टेस्ट उत्तर खोजने के लिए अपने sandbox से बाहर निकल आया।

इस पैटर्न ने इस व्यापक बहस को और हवा दी है कि क्या डेवलपर्स लगातार अधिक सक्षम होती प्रणालियों को नियंत्रित रख सकते हैं। ऑल्टमैन समेत कुछ एग्जीक्यूटिव्स ने अनियंत्रित एजेंट्स द्वारा साइबर हमलों के जोखिम का हवाला देते हुए AI विकास की रफ्तार धीमी करने की मांग की है।