AEREDIUM का कहना है कि एंटरप्राइज AI सुरक्षा को मॉडल सुरक्षा से क्रिप्टोग्राफिक नियंत्रण और संरचनात्मक प्राधिकरण नियंत्रणों की ओर बढ़ना चाहिए।

जब OpenAI ने खुलासा किया कि उसका एक AI मॉडल प्रतिबंधित परीक्षण वातावरण से बच निकला और Hugging Face के इंफ्रास्ट्रक्चर का उल्लंघन किया, तो चर्चा तुरंत AI सुरक्षा पर केंद्रित हो गई। सवाल परिचित थे: क्या AI प्रणालियों को संरेखित किया जा सकता है? क्या उन पर भरोसा किया जा सकता है? क्या आज के गार्डरेल हानिकारक व्यवहार को रोकने के लिए पर्याप्त हैं?

AEREDIUM के मुख्य रणनीति अधिकारी, Eitan Katz के अनुसार, वे प्रश्न बड़े सबक से चूक जाते हैं।

Katz कहते हैं, "यह सिर्फ एक AI सुरक्षा घटना नहीं थी।" "यह एक नियंत्रण विफलता थी। एक बार जब एक AI एजेंट पर्याप्त सक्षम हो जाता है, तो अकेले गार्डरेल पर्याप्त नहीं होते हैं। संगठनों को ऐसे इंफ्रास्ट्रक्चर की आवश्यकता है जो क्रिप्टोग्राफिक रूप से यह लागू कर सके कि एक AI एजेंट क्या करने के लिए अधिकृत है, और क्या नहीं।"

यह अंतर महत्वपूर्ण है क्योंकि AI सुरक्षा और AI नियंत्रण विभिन्न समस्याओं का समाधान करते हैं।

AI सुरक्षा एक मॉडल के व्यवहार को प्रभावित करने पर केंद्रित है। यह पूछता है कि क्या एक AI प्रणाली हानिकारक अनुरोधों को अस्वीकार कर सकती है, खतरनाक आउटपुट उत्पन्न करने से बच सकती है, या मानवीय निर्देशों का पालन कर सकती है। AI नियंत्रण एक अलग धारणा से शुरू होता है: भले ही एक AI एजेंट कितना भी सक्षम या बुद्धिमान क्यों न हो जाए, उसे कभी भी उस अधिकार से अधिक नहीं होना चाहिए जो उसे स्पष्ट रूप से प्रदान किया गया है।

OpenAI और Hugging Face की घटना उस अंतर को दर्शाती है।

OpenAI के अपने खुलासे के अनुसार, मूल्यांकन जानबूझकर उत्पादन क्लासिफायर को अक्षम करके और साइबर अस्वीकृति को कम करके चलाया गया था। यह घटना विशेष रूप से शिक्षाप्रद बनाती है। अस्वीकृति प्रशिक्षण की विफलता को प्रदर्शित करने के बजाय, इसने दिखाया कि जब संरचनात्मक नियंत्रण रक्षा की प्राथमिक पंक्ति बन जाते हैं तो क्या होता है। जैसा कि Katz तर्क देते हैं, एक बार जब व्यवहारिक फिल्टर अनुपस्थित होते हैं, तो एक सक्षम, लक्ष्य-निर्देशित एजेंट आसपास के इंफ्रास्ट्रक्चर को उपलब्ध सतह के रूप में मानेगा जब तक कि कुछ गहरा उसे ऐसा करने से रोकता नहीं है।

यही कारण है कि, Katz का तर्क है, नियंत्रण मौलिक रूप से एक फिल्टरिंग समस्या नहीं है।

मॉडल गार्डरेल आकस्मिक दुरुपयोग को कम करने और आकस्मिक दुर्व्यवहार की लागत को बढ़ाने के लिए मूल्यवान बने हुए हैं। लेकिन वे प्रकृति में संभाव्य हैं, और वे मानते हैं कि एक AI प्रणाली को एक अवांछनीय कार्रवाई करने से रोका या राजी किया जा सकता है। एक पर्याप्त सक्षम एजेंट जो एक विशिष्ट उद्देश्य की ओर अनुकूलन कर रहा है, वह इसके बजाय उन नियंत्रणों के आसपास एक रास्ता तलाश सकता है। Katz का तर्क है कि टिकाऊ सुरक्षा सीमा, मॉडल के ही नीचे मौजूद होनी चाहिए।

Katz लिखते हैं, "टिकाऊ नियंत्रण संरचनात्मक है।" "अधिकार को निर्णय बिंदु के नीचे, कुंजी पर ही प्रतिबंधित किया जाना चाहिए।"

उनका निष्कर्ष सरल है: "जनादेश से बाहर की कार्रवाई अवरुद्ध नहीं होती है। इसे उत्पन्न ही नहीं किया जा सकता है।"

यह दर्शन AERPOLICE की नींव बनाता है।

यह निर्धारित करने का प्रयास करने के बजाय कि क्या एक AI मॉडल सुरक्षित रूप से व्यवहार कर रहा है, AERPOLICE को यह आकलन करने के लिए डिज़ाइन किया गया है कि क्या किसी संगठन का इंफ्रास्ट्रक्चर संरचनात्मक नियंत्रणों के माध्यम से स्वायत्त AI एजेंटों को नियंत्रित कर सकता है। यह ढाँचा इस बात पर केंद्रित है कि क्या अधिकार क्रिप्टोग्राफिक रूप से लागू किया गया है, क्या अनुमतियाँ सीमित हैं, और क्या स्वायत्त एजेंटों को उन आदेशों के बाहर कार्रवाई करने से रोका जाता है जो उन्हें दिए गए हैं।

Katz के लिए, इसके निहितार्थ किसी संगठन की अपनी AI तैनाती से कहीं आगे तक जाते हैं।

सवाल अब केवल यह नहीं है कि क्या व्यक्तिगत AI एजेंटों पर भरोसा किया जा सकता है। उद्यमों को यह भी मानना चाहिए कि तेजी से सक्षम बाहरी AI एजेंट अंततः उनकी प्रणालियों के साथ बातचीत करेंगे। इसलिए नियंत्रण एक संगठन की समग्र सुरक्षा मुद्रा का हिस्सा बन जाता है, यह परिभाषित करता है कि उसका इंफ्रास्ट्रक्चर स्वायत्त, लक्ष्य-निर्देशित एजेंटों का कितनी अच्छी तरह सामना कर सकता है, भले ही वे कहीं से भी उत्पन्न हों।

यह इस बात को भी बदलता है कि उद्यमों को जिम्मेदारी के बारे में कैसे सोचना चाहिए। सुरक्षा अब केवल मॉडल के व्यवहार या किसी AI प्रदाता की नीतियों पर निर्भर नहीं कर सकती है जिसका कोई संगठन उपयोग करता है। संगठनों को ऐसे नियंत्रणों की आवश्यकता है जो मॉडल से स्वतंत्र रूप से अपनी स्वयं की प्राधिकरण सीमाओं को लागू करें।

Katz का तर्क है कि इसमें से कोई भी AI सुरक्षा के महत्व को कम नहीं करता है। गार्डरेल आकस्मिक नुकसान को कम करने और समग्र AI पारिस्थितिकी तंत्र में सुधार लाने में एक महत्वपूर्ण भूमिका निभाते रहते हैं। लेकिन उन्हें उन सुरक्षा सीमाओं के रूप में गलत नहीं समझा जाना चाहिए जो एंटरप्राइज प्रणालियों की रक्षा करती हैं।

Katz के अनुसार, OpenAI और Hugging Face घटना से मिला व्यापक सबक यह है कि एंटरप्राइज AI सुरक्षा एक नए चरण में प्रवेश कर रही है। जैसे-जैसे स्वायत्त AI एजेंट अधिक सक्षम होते जाएंगे, संगठनों को ऐसे इंफ्रास्ट्रक्चर की आवश्यकता बढ़ती जाएगी जो यह लागू कर सके कि वे एजेंट क्या करने के लिए अधिकृत हैं, बजाय इसके कि वे केवल इस बात पर निर्भर रहें कि उनसे क्या करने की अपेक्षा की जाती है।

उनका तर्क है कि एंटरप्राइज AI सुरक्षा का भविष्य इस बात पर कम निर्भर करेगा कि एक AI मॉडल सही ढंग से व्यवहार करता है या नहीं, और इस बात पर अधिक निर्भर करेगा कि क्या उसे संरचनात्मक रूप से अपने अधिकार से अधिक होने से रोका जाता है।