प्रमुख एआई डेवलपर्स सरकारों और व्यवसायों को अपने नेटवर्क को मजबूत करने के लिए कह रहे हैं, क्योंकि OpenAI और Anthropic द्वारा बनाए गए मॉडलों ने अन्य कंपनियों की प्रणालियों से समझौता किया है।

गुरुवार को जारी एक खुले पत्र में, OpenAI, Anthropic और 100 से अधिक अन्य संगठनों ने चेतावनी दी कि एआई-सक्षम साइबर हमले जल्द ही अधिक सामान्य हो जाएंगे और कंपनियों के पास “साइबर सुरक्षा को मजबूत करने के लिए एक सीमित अवधि” है।

पत्र में कहा गया है, “आने वाले महीनों में, एआई-सक्षम साइबर हमले कहीं अधिक व्यापक और परिष्कृत हो जाएंगे।” इसने जोखिम वाले सेवाओं में अस्पतालों, जल उपचार संयंत्रों और इंटरनेट बुनियादी ढांचे की पहचान की।

यह पत्र रक्षात्मक एआई उपकरणों के लिए धन देने, खतरे की जानकारी साझा करने, संवेदनशील प्रणालियों तक पहुंच को प्रतिबंधित करने और महत्वपूर्ण बुनियादी ढांचे के लिए सुरक्षा में सुधार करने की सिफारिश करता है। हालांकि, इन क्षेत्रों में विफलता के कारण OpenAI और Anthropic मॉडलों को उनके परीक्षण वातावरण के बाहर की प्रणालियों में घुसपैठ करने की अनुमति मिली।

अन्य हस्ताक्षरकर्ताओं में Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa और Robinhood शामिल हैं। Hugging Face, जिसके उत्पादन बुनियादी ढांचे में OpenAI के मॉडलों ने सेंध लगाई थी, ने भी इस पत्र पर हस्ताक्षर किए।

एआई मॉडलों ने लाइव सिस्टम में सेंध लगाई

Anthropic ने 30 जुलाई की घटना रिपोर्ट में कहा कि तीन उल्लंघनों में से सबसे पहला अप्रैल का था, लेकिन प्रत्येक की सटीक तारीख नहीं दी। Claude Opus 4.7 ने एक वास्तविक कंपनी को नकली लक्ष्य समझने के बाद एक उत्पादन डेटाबेस तक पहुंच बनाई, जबकि Claude Mythos 5 ने एक दुर्भावनापूर्ण पैकेज अपलोड किया जो 15 प्रणालियों पर चला।

इस सप्ताह की शुरुआत में जारी OpenAI की घटना समय-सीमा के अनुसार, एक एजेंट ने 12 मई को एक अनधिकृत संदेश बोर्ड पर पहली प्रविष्टि बनाई और 26 मई को अनपेक्षित इंटरनेट एक्सेस प्राप्त किया। 10 जुलाई को, एजेंटों को उजागर Hugging Face क्रेडेंशियल मिले; अगले दो दिनों में, उन्होंने पहले से अज्ञात कमजोरियों का फायदा उठाया, Hugging Face सर्वर पर कोड निष्पादित किया, और उत्पादन क्रेडेंशियल प्राप्त किए।

Hugging Face ने 16 जुलाई को घुसपैठ का खुलासा किया, और OpenAI ने 21 जुलाई को अपने मॉडलों की संलिप्तता स्वीकार की।

25 जुलाई और 28 जुलाई के बीच, यू.के. एआई सुरक्षा संस्थान ने Claude Mythos 5 और GPT-5.6 Sol से संबंधित 19 आउट-ऑफ-स्कोप कार्रवाइयाँ दर्ज कीं। सबसे गंभीर मामले में, एक एजेंट ने एक वास्तविक ओपन-सोर्स प्रोजेक्ट में दुर्भावनापूर्ण कोड प्रस्तुत किया और इसके अनुरक्षक को इसे अनुमोदित करने के लिए दबाव डालने के लिए नकली पहचान का इस्तेमाल किया।

गुरुवार को, एक स्वतंत्र जांच में पाया गया कि लगभग 1,200 OpenAI एजेंटों ने अनधिकृत संदेश बोर्ड के माध्यम से समन्वय स्थापित किया था, जिसमें से लगभग 700 Hugging Face ऑपरेशन में शामिल थे।

क्रिप्टो डेवलपर्स ने एआई को रक्षा में लगाया

क्रिप्टो डेवलपर्स पहले से ही हमलावरों द्वारा उनका पता लगाने से पहले खामियों को खोजने के लिए एआई का उपयोग कर रहे हैं। बिटकॉइन रेड टीम ने मूनशॉट एआई के किमी के3 सहित मॉडलों का उपयोग सैकड़ों ओपन-सोर्स बिटकॉइन परियोजनाओं को स्कैन करने के लिए किया, जिसमें हजारों संभावित कमजोरियों की रिपोर्ट की गई। चूंकि प्रभावित परियोजनाओं की पहचान नहीं की गई थी, इसलिए इनमें से कई निष्कर्षों को स्वतंत्र रूप से सत्यापित नहीं किया गया है।

एथेरियम फाउंडेशन ने नेटवर्क इन्फ्रास्ट्रक्चर के खिलाफ एआई एजेंटों के समूहों को भी तैनात किया है, जिससे एक पीयर-टू-पीयर सॉफ्टवेयर बग का पता चला जिसे बाद में ठीक कर दिया गया। बिटबॉक्स ने कहा कि एआई-सहायता प्राप्त ऑडिट में उसके वॉलेट फर्मवेयर में दो गंभीर कमजोरियां पाई गईं, जबकि क्लाउड ओपस 4.8 का उपयोग करने वाले एक शोधकर्ता ने ज़कैश में एक गंभीर दोष का पता लगाया जो वर्षों की मानवीय समीक्षा से बच गया था।

लैब्स ने सख्त नियंत्रण की सिफारिश की

पत्र में अगले उल्लंघन को रोकने के लिए कार्य विभाजन का उल्लेख किया गया है, जिसमें कमजोर सॉफ्टवेयर को पैच करना, अनुमतियों को प्रतिबंधित करना, प्रमाणीकरण को मजबूत करना और एआई-जनित कोड का निरीक्षण करना शामिल है, क्योंकि हस्ताक्षरकर्ताओं ने कहा, “मौजूदा सुरक्षा पर्याप्त नहीं होगी”।

सुरक्षा कंपनियों को सीमांत मॉडलों के खिलाफ अपनी सुरक्षा का परीक्षण करना चाहिए और सत्यापित फिक्स साझा करना चाहिए, जबकि सरकारों को अस्पतालों, उपयोगिताओं और अन्य आवश्यक सेवाओं के लिए सुरक्षा हेतु धन देना चाहिए।

एआई डेवलपर्स से निगरानी में सुधार करने और स्वायत्त एजेंटों को उनके ऑपरेटरों के लिए पता लगाने योग्य बनाने के लिए कहा गया है। गठबंधन चाहता है कि रक्षक कमजोरियों का पता लगाने और हमलों का विश्लेषण करने के लिए उन्नत मॉडलों का उपयोग करें, जिससे अधिक सक्षम एजेंट संवेदनशील प्रणालियों के अंदर आ जाएंगे और नियंत्रण की आवश्यकता बढ़ जाएगी।

उल्लंघनों के बाद OpenAI और Anthropic ने अपनी परीक्षण प्रक्रियाओं को कड़ा कर दिया। हालांकि, पत्र स्वतंत्र निरीक्षण के लिए कोई बाध्यकारी मानक या आवश्यकताएं निर्धारित नहीं करता है, और अमेरिकी कानून इस बात पर बहुत कम मार्गदर्शन प्रदान करता है कि जब एक एआई सिस्टम एक अनधिकृत नेटवर्क तक पहुंच बनाता है तो कौन जिम्मेदार होता है।

पत्र का समापन उद्योग और सरकार के नेताओं से एआई उपकरणों को रक्षकों के हाथों में सौंपने और काम करने वाले समाधानों को साझा करने का आग्रह करके किया गया:

पत्र में कहा गया है, “आवश्यक सेवाओं की सुरक्षा करने वाली टीमों से शुरू करते हुए, साइबर-सक्षम एआई को रक्षकों के हाथों में दें।” “साथ मिलकर, हम आज की एआई प्रगति को सुरक्षा में स्थायी सुधारों में बदल सकते हैं जिससे सभी को लाभ होगा। आइए उन्हें काम पर लगाएं।”