माइक्रोसॉफ्ट ने एंटरप्राइज़ एआई एजेंटों पर सख्त शासन लागू करने के लिए रनटाइम सुरक्षा पर केंद्रित एक नया ओपन-सोर्स टूलकिट पेश किया है।
यह टूलकिट रनटाइम सुरक्षा पर आधारित है, जो इस चिंता को संबोधित करता है कि आधुनिक भाषा मॉडल अब केवल सलाहकार भूमिकाओं तक सीमित नहीं हैं बल्कि सक्रिय रूप से कोड निष्पादित कर रहे हैं और आंतरिक प्रणालियों के साथ इंटरैक्ट कर रहे हैं। स्टैटिक कोड जाँच और प्री-डिप्लॉयमेंट स्कैन जैसे पारंपरिक सुरक्षा उपाय इन गतिशील व्यवहारों के साथ तालमेल बिठाने में संघर्ष करते हैं।
एआई के शुरुआती परिनियोजन मुख्य रूप से सीमित, केवल पढ़ने के लिए पहुंच वाले कोपायलटों पर केंद्रित थे, जिसमें मनुष्य ही निष्पादन के प्रभारी थे। वह मॉडल बदल रहा है। कंपनियाँ अब एजेंटिक सिस्टम को एकीकृत कर रही हैं जो एपीआई, क्लाउड वातावरण और विकास पाइपलाइन में स्वतंत्र कार्रवाई करने में सक्षम हैं।
ऐसे सेटअप में, एक एआई एजेंट ईमेल को पार्स कर सकता है, एक स्क्रिप्ट बना सकता है और बिना मानवीय हस्तक्षेप के उसे सर्वर पर डिप्लॉय कर सकता है। एक गलत निर्देश या प्रॉम्प्ट इंजेक्शन अनपेक्षित डेटाबेस परिवर्तनों या संवेदनशील जानकारी के एक्सपोजर का कारण बन सकता है। नया टूलकिट कार्यों को घटित होते ही मॉनिटर करके और पूर्व-निर्धारित नियंत्रणों पर निर्भर रहने के बजाय वास्तविक समय में हस्तक्षेप करके उस जोखिम को संबोधित करता है।
यह प्रणाली इस बात पर केंद्रित है कि एआई एजेंट बाहरी उपकरणों के साथ कैसे इंटरैक्ट करते हैं। जब किसी मॉडल को अपनी आंतरिक प्रोसेसिंग से परे कोई कार्रवाई करने की आवश्यकता होती है, जैसे कि किसी एंटरप्राइज़ सिस्टम से क्वेरी करना, तो वह उस उपकरण के लिए एक कमांड उत्पन्न करता है।
माइक्रोसॉफ्ट मॉडल और कॉर्पोरेट नेटवर्क के बीच एक नीति प्रवर्तन परत डालता है। प्रत्येक आउटगोइंग अनुरोध को निष्पादन से पहले पूर्व-निर्धारित शासन नियमों के विरुद्ध इंटरसेप्ट और मूल्यांकन किया जाता है। यदि कोई कार्रवाई नीति का उल्लंघन करती है, उदाहरण के लिए एक एजेंट केवल पढ़ने के लिए पहुंच तक सीमित होने के बावजूद लेन-देन शुरू करने का प्रयास कर रहा है, तो अनुरोध को अवरुद्ध कर दिया जाता है और समीक्षा के लिए लॉग किया जाता है।
यह दृष्टिकोण निर्णयों का एक ऑडिट योग्य रिकॉर्ड बनाता है जबकि डेवलपर्स को प्रत्येक प्रॉम्प्ट या वर्कफ़्लो में सुरक्षा बाधाओं को एम्बेड करने की आवश्यकता को समाप्त करता है। शासन एप्लिकेशन लॉजिक से हटकर बुनियादी ढाँचा-स्तरीय नियंत्रणों में स्थानांतरित हो जाता है।
यह फ्रेमवर्क विरासत प्रणालियों के लिए एक बफर के रूप में भी कार्य करता है, जिनमें से कई अप्रत्याशित मशीन-जनित इनपुट को संभालने के लिए डिज़ाइन नहीं की गई थीं। मुख्य प्रणालियों तक पहुँचने से पहले अनुरोधों को फ़िल्टर और मान्य करके, यह समझौता किए गए या गलत निर्देशित एआई व्यवहार से उत्पन्न जोखिम को सीमित करता है।
माइक्रोसॉफ्ट का टूलकिट को ओपन सोर्स के रूप में जारी करने का निर्णय वर्तमान विकास प्रथाओं से जुड़ा है। एआई वर्कफ़्लो बनाने वाली टीमें अक्सर तीसरे पक्ष के उपकरणों और मॉडलों के मिश्रण पर निर्भर करती हैं। तेज़ विकल्पों के पक्ष में एक मालिकाना समाधान को बायपास किया जा सकता है। ओपन उपलब्धता नियंत्रणों को विभिन्न वातावरणों में एकीकृत करने की अनुमति देती है, जिसमें एंथ्रोपिक जैसे प्रतिस्पर्धियों के मॉडल का उपयोग करने वाले सिस्टम भी शामिल हैं।
यह साइबर सुरक्षा फर्मों के लिए भी फ्रेमवर्क के शीर्ष पर अतिरिक्त निगरानी और प्रतिक्रिया परतें बनाने का मार्ग प्रशस्त करता है, जिससे एआई-संचालित ऑपरेशनों को सुरक्षित करने के लिए एक साझा आधारभूत मानदंड स्थापित करने में मदद मिलती है।
सुरक्षा चुनौती का केवल एक हिस्सा है। स्वायत्त एजेंट वित्तीय और परिचालन जोखिम भी पेश करते हैं, विशेष रूप से अनियंत्रित एपीआई उपयोग के माध्यम से।
ये सिस्टम निरंतर लूप में काम करते हैं, बाहरी सेवाओं पर बार-बार कॉल करते हैं। सीमाओं के बिना, एक साधारण कार्य भी सशुल्क डेटाबेस या एपीआई के लिए हजारों प्रश्नों को ट्रिगर कर सकता है, जिससे लागत तेजी से बढ़ जाती है। अत्यधिक मामलों में, गलत कॉन्फ़िगर किए गए एजेंट पुनरावर्ती चक्रों में प्रवेश कर सकते हैं जो कम समय में बड़ी मात्रा में कंप्यूट संसाधनों का उपभोग करते हैं।
यह टूलकिट संगठनों को टोकन उपयोग और अनुरोध आवृत्ति पर सख्त सीमाएं परिभाषित करने की अनुमति देता है। यह नियंत्रित करके कि एक एजेंट एक निश्चित अवधि के भीतर कितनी बार कार्य कर सकता है, कंपनियाँ खर्चों को बेहतर ढंग से प्रबंधित कर सकती हैं और बेकाबू प्रक्रियाओं को रोक सकती हैं।
रनटाइम निगरानी मापनीय नियंत्रण और स्पष्ट ऑडिट लॉग प्रदान करके अनुपालन आवश्यकताओं का भी समर्थन करती है। जिम्मेदारी मॉडल प्रदाताओं से हटकर उन प्रणालियों की ओर स्थानांतरित हो रही है जो वास्तविक दुनिया के वातावरण में निर्णय निष्पादित करती हैं।
ऐसे शासन फ्रेमवर्क को लागू करने के लिए इंजीनियरिंग, कानूनी और सुरक्षा टीमों के बीच समन्वय की आवश्यकता होगी। चूंकि एआई सिस्टम अधिक स्वायत्त भूमिकाएं निभाते हैं, उनके व्यवहार को प्रबंधित करने वाला बुनियादी ढाँचा सुरक्षित परिनियोजन के लिए केंद्रीय होता जा रहा है।
यह रिलीज एआई बुनियादी ढांचे में निरंतर निवेश के साथ आई है। माइक्रोसॉफ्ट ने हाल ही में अगले चार वर्षों में जापान में 10 बिलियन डॉलर का निवेश करने की योजना बनाई है, जिसमें डेटा केंद्रों और सहायक प्रणालियों पर ध्यान केंद्रित किया गया है।
यह घोषणा टोक्यो में माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ और जापानी प्रधान मंत्री सनाए ताकाइची के बीच बातचीत के बाद हुई। स्मिथ ने निवेश को "क्लाउड और एआई सेवाओं के लिए जापान की बढ़ती आवश्यकता की प्रतिक्रिया" बताया।
कंपनी घरेलू बुनियादी ढांचे का विस्तार करने के लिए सॉफ्टबैंक ग्रुप और सकुरा इंटरनेट के साथ काम कर रही है। नवीनतम प्रतिबद्धता 2024 में घोषित 2.9 बिलियन डॉलर की योजना पर आधारित है जिसका उद्देश्य देश में एआई क्षमताओं और साइबर सुरक्षा लचीलापन को मजबूत करना है।
