मंगलवार को एन्थ्रोपिक के सीईओ डारियो अमोडी और जेपी मॉर्गन चेज़ के सीईओ जेमी डिमन के बीच हुई चर्चा में आर्टिफिशियल इंटेलिजेंस द्वारा उत्पन्न बढ़ते साइबर सुरक्षा खतरे पर ध्यान केंद्रित किया गया, क्योंकि यह संगठनों की तुलना में कमजोरियों को तेजी से पहचानता है।

एन्थ्रोपिक की वित्तीय सेवाओं में पैठ बनाने से जुड़े लगभग दो घंटे के कार्यक्रम में, जहाँ इसने पिचबुक, कमाई की समीक्षा और अनुपालन कार्य जैसे कार्यों के लिए एआई एजेंटों का अनावरण किया, अमोडी ने कहा कि कंपनी के मिथोस मॉडल द्वारा उजागर की गई हजारों खामियों को दूर करने के लिए छह से 12 महीने की समय सीमा हो सकती है, इससे पहले कि ऐसी क्षमताएं अधिक व्यापक रूप से उपलब्ध हों।

“खतरा सिर्फ कमजोरियों की संख्या में, उल्लंघनों की संख्या में, और स्कूलों, अस्पतालों, बैंकों पर रैंसमवेयर से होने वाले वित्तीय नुकसान में भारी वृद्धि है,” अमोडी ने कहा।

अमोडी के नवीनतम बयान मोज़िला के साथ पहले के परीक्षण के बाद आए हैं, जब मिथोस के शुरुआती संस्करण ने एक ही पास में फ़ायरफ़ॉक्स ब्राउज़र में 271 कमजोरियों की पहचान की थी, जिससे पता चलता है कि एआई मानव शोधकर्ताओं की तुलना में बड़े कोडबेस को कितनी तेजी से स्कैन कर सकता है।

एन्थ्रोपिक ने कहा कि यह मॉडल व्यापक रूप से उपयोग किए जाने वाले सॉफ्टवेयर में हजारों पहले से अज्ञात कमजोरियों का पता लगा सकता है। कई अज्ञात बनी हुई हैं क्योंकि उन्हें अभी तक पैच नहीं किया गया है, जिससे अनसुलझी खामियां बनी हुई हैं।

“अगर हम इसे ठीक किए बिना कुछ घोषित करते हैं, तो बुरे लोग इसका फायदा उठाएंगे,” अमोडी ने कहा।

नियंत्रित परीक्षण में, मिथोस ने मानवीय हस्तक्षेप के बिना बहु-चरणीय नेटवर्क हमले सिमुलेशन पूरे किए, जिससे कमजोरियों की पहचान करने से लेकर उनका फायदा उठाने तक की क्षमता प्रदर्शित हुई।

एन्थ्रोपिक ने प्रोजेक्ट ग्लासिंग के तहत मॉडल को भागीदारों के एक छोटे समूह तक सीमित कर दिया है, जिसका लक्ष्य समान उपकरणों के व्यापक रूप से उपलब्ध होने से पहले कमजोरियों को ठीक करना है।

शोधकर्ताओं ने दिखाया है कि मिथोस की क्षमता के तत्वों को मौजूदा मॉडलों और ओपन-सोर्स तकनीकों का उपयोग करके पुनरुत्पादित किया जा सकता है, जिससे पता चलता है कि समान उपकरण अपेक्षा से अधिक तेजी से फैल सकते हैं।

इन चेतावनियों ने उद्योग के भीतर से संदेह पैदा किया है। अप्रैल में, OpenAI के सीईओ सैम ऑल्टमैन ने कहा कि मिथोस के बारे में चिंताएँ अतिरंजित हो सकती हैं और सुझाव दिया कि एन्थ्रोपिक जोखिमों को प्रस्तुत करने और प्रौद्योगिकी तक पहुंच को सीमित करने को उचित ठहराने के लिए “भय-आधारित विपणन” का उपयोग कर रहा है।

“आप इसे कई अलग-अलग तरीकों से उचित ठहरा सकते हैं, और इसमें से कुछ वास्तविक है, जैसे वैध सुरक्षा चिंताएं होंगी," ऑल्टमैन ने कहा। “लेकिन अगर आप चाहते हैं कि 'हमें एआई पर नियंत्रण चाहिए, सिर्फ हमें, क्योंकि हम भरोसेमंद लोग हैं,' तो मुझे लगता है कि भय-आधारित विपणन इसे उचित ठहराने का सबसे प्रभावी तरीका है।"

उस विरोध के बावजूद, एन्थ्रोपिक के साथ सार्वजनिक विवाद के बावजूद, *एक्सियोस* के अनुसार, अमेरिकी सरकार कथित तौर पर वर्गीकृत नेटवर्क में कमजोरियों को स्कैन करने और अपनी साइबर सुरक्षा क्षमताओं का परीक्षण करने के लिए क्लाउड मिथोस का उपयोग कर रही है। हालांकि उन्होंने चल रहे कानूनी विवाद को संबोधित नहीं किया, अमोडी ने कहा कि एन्थ्रोपिक “इस देश के लिए अच्छा है।”

“मुझे लगता है कि एन्थ्रोपिक का दृष्टिकोण हमेशा की तरह ही है। राजनीतिकरण के संदर्भ में, यह वही बात है जो मैंने सुव्यवस्थित, व्यवस्थित और सभी के साथ निष्पक्ष होने के बारे में कही थी,” अमोडी ने कहा। “कानूनों का उद्देश्य और तदर्थ तरीके से काम न करना यह है कि सभी कंपनियों के साथ, कम से कम सिद्धांत रूप में—मुझे पता है कि व्यवहार में यह अधिक जटिल है—एक ही तरह से व्यवहार किया जाता है, और हमें उस तक पहुंचने का प्रयास करना चाहिए, भले ही यह कभी पूरी तरह से ऐसा न हो।”

अमोडी ने इस क्षण को कार्रवाई के लिए एक संकीर्ण समय सीमा के रूप में चित्रित किया, चेतावनी दी कि संगठन कितनी जल्दी प्रतिक्रिया देते हैं, यह निर्धारित कर सकता है कि जोखिम बढ़ते हैं या नियंत्रण में आते हैं।

“यह एक खतरनाक क्षण है जहाँ अगर हम इसका सही ढंग से जवाब देते हैं, और मुझे लगता है कि हमने पहले कदम उठाने शुरू कर दिए हैं, तो हम दूसरी तरफ एक बेहतर दुनिया पा सकते हैं,” अमोडी ने कहा। “ढूंढने के लिए बहुत सारी त्रुटियाँ नहीं हैं।”