ओपनएआई के सीईओ सैम ऑल्टमैन ने प्रतिद्वंद्वी एंथ्रोपिक के शक्तिशाली नए एआई मॉडल क्लाउड मिथोस को लेकर बढ़ती चिंता को खारिज कर दिया, यह सुझाव देते हुए कि कंपनी उत्पाद के विपणन के लिए "भय" का उपयोग कर रही है।

तकनीकी पत्रकार ऐशली वेंस द्वारा होस्ट किए गए कोर मेमोरी पॉडकास्ट में बोलते हुए, ऑल्टमैन ने तर्क दिया कि "भय-आधारित मार्केटिंग" का उपयोग एआई को "कम लोगों के समूह" के हाथों में रखने के लिए किया गया था।

ऑल्टमैन ने कहा, "आप इसे कई अलग-अलग तरीकों से सही ठहरा सकते हैं, और इसमें से कुछ वास्तविक है, जैसे कि वैध सुरक्षा चिंताएं होंगी।"

"लेकिन अगर आप चाहते हैं कि 'हमें एआई पर नियंत्रण चाहिए, केवल हमें, क्योंकि हम भरोसेमंद लोग हैं', तो मुझे लगता है कि भय-आधारित मार्केटिंग इसे सही ठहराने का सबसे प्रभावी तरीका है।"

ऑल्टमैन ने आगे कहा कि एआई सुरक्षा को लेकर वैध चिंताएं हैं, लेकिन "यह कहना स्पष्ट रूप से अविश्वसनीय मार्केटिंग है: 'हमने एक बम बनाया है। हम इसे आपके सिर पर गिराने वाले हैं। हम आपको 100 मिलियन डॉलर में एक बम आश्रय बेचेंगे। आपको इसे अपने सभी सामान पर चलाने की आवश्यकता है, लेकिन तभी जब हम आपको एक ग्राहक के रूप में चुनेंगे।'"

उन्होंने कहा कि एआई की नई क्षमताओं को ओपनएआई के इस विश्वास के साथ संतुलित करना "हमेशा आसान नहीं" था कि यह तकनीक सुलभ होनी चाहिए।

एंथ्रोपिक का क्लाउड मिथोस

एंथ्रोपिक के क्लाउड मिथोस मॉडल, जिसे पिछले महीने अनावरण किया गया था, ने शोधकर्ताओं, सरकारों और साइबर सुरक्षा उद्योग से तीव्र ध्यान आकर्षित किया है, खासकर परीक्षण के बाद यह सुझाव दिया गया कि यह स्वायत्त रूप से सॉफ्टवेयर कमजोरियों की पहचान कर सकता है और जटिल साइबर संचालन को अंजाम दे सकता है। मॉडल को एक प्रतिबंधित कार्यक्रम के माध्यम से केवल संगठनों के एक सीमित सेट को वितरित किया जा रहा है।

यह रोलआउट एआई उद्योग में एक व्यापक विभाजन को दर्शाता है कि शक्तिशाली प्रणालियों को कैसे तैनात किया जाना चाहिए, कुछ कंपनियां नियंत्रित पहुंच पर जोर देती हैं और अन्य नवाचार को तेज करने और प्रौद्योगिकी की समझ के लिए व्यापक वितरण की वकालत करती हैं।

मिथोस उस बहस में एक केंद्र बिंदु बन गया है। मॉडल की क्षमताओं को एंथ्रोपिक द्वारा एक रक्षात्मक सफलता - महत्वपूर्ण सॉफ्टवेयर खामियों का तेजी से पता लगाने की अनुमति - और दुरुपयोग होने पर एक संभावित आक्रामक जोखिम दोनों के रूप में वर्णित किया गया है। इस महीने की शुरुआत में, इसने परीक्षण के दौरान मोज़िला के फ़ायरफ़ॉक्स ब्राउज़र में सैकड़ों कमजोरियों की पहचान की और बहु-स्तरीय साइबर हमले सिमुलेशन करने की क्षमता भी प्रदर्शित की है।

एंथ्रोपिक ने प्रोजेक्ट ग्लासिंग के माध्यम से सिस्टम तक पहुंच को प्रतिबंधित कर दिया है, जिससे अमेज़ॅन, ऐप्पल और माइक्रोसॉफ्ट सहित चुनिंदा कंपनियों को इसकी क्षमताओं का परीक्षण करने की अनुमति मिली है। कंपनी ने ओपन-सोर्स सुरक्षा प्रयासों का समर्थन करने के लिए भी महत्वपूर्ण संसाधन प्रतिबद्ध किए हैं, यह तर्क देते हुए कि व्यापक रूप से उपलब्ध होने से पहले रक्षकों को प्रौद्योगिकी से लाभ उठाना चाहिए।

सुरक्षा विशेषज्ञ चेतावनी देते हैं कि वही क्षमताएं जो मिथोस को कमजोरियों की पहचान करने की अनुमति देती हैं, उनका उपयोग बड़े पैमाने पर उनका फायदा उठाने के लिए भी किया जा सकता है। यूके के एआई सुरक्षा संस्थान द्वारा किए गए परीक्षणों में पाया गया कि मॉडल स्वायत्त रूप से जटिल साइबर संचालन को पूरा कर सकता है।

मॉडल ने मौजूदा एआई मूल्यांकन प्रणालियों में सीमाओं को भी उजागर किया है, जिसमें एंथ्रोपिक ने स्वीकार किया है कि उसके नवीनतम सिस्टम की क्षमताओं को मापने के लिए कई वर्तमान साइबर सुरक्षा बेंचमार्क अब पर्याप्त नहीं हैं।

हालांकि, शोधकर्ताओं के एक समूह ने पिछले हफ्ते दावा किया कि वे सार्वजनिक रूप से उपलब्ध मॉडलों का उपयोग करके मिथोस के निष्कर्षों को पुन: उत्पन्न करने में सक्षम थे।

अमेरिकी सरकार के कुछ हिस्सों में युद्ध और निगरानी में इसके संभावित अनुप्रयोगों के बारे में चिंताओं को लेकर प्रौद्योगिकी के उपयोग को रोकने के आह्वान के बावजूद, नेशनल सिक्योरिटी एजेंसी ने कथित तौर पर वर्गीकृत नेटवर्क पर मॉडल के एक पूर्वावलोकन संस्करण का परीक्षण करना शुरू कर दिया है। डिक्रिप्ट की मूल कंपनी दास्तान के स्वामित्व वाले प्रेडिक्शन मार्केट मायरीड पर, उपयोगकर्ताओं ने 30 जून तक क्लाउड मिथोस के व्यापक जनता के लिए जारी होने की 49% संभावना जताई।

ऑल्टमैन ने सुझाव दिया कि अत्यधिक खतरनाक एआई प्रणालियों के बारे में बयानबाजी क्षमताओं में सुधार के साथ बढ़ सकती है, लेकिन तर्क दिया कि ऐसे सभी दावों को शाब्दिक रूप से नहीं लिया जाना चाहिए।

उन्होंने कहा, "ऐसे मॉडलों के बारे में बहुत अधिक बयानबाजी होगी जो जारी करने के लिए बहुत खतरनाक हैं। बहुत खतरनाक मॉडल भी होंगे जिन्हें अलग-अलग तरीकों से जारी करना होगा।" "मुझे यकीन है कि मिथोस साइबर सुरक्षा के लिए एक बेहतरीन मॉडल है, लेकिन मुझे लगता है कि हमारे पास एक ऐसी योजना है जिसके बारे में हमें अच्छा लगता है कि हम इस तरह की क्षमता को दुनिया में कैसे रखेंगे।"

ऑल्टमैन ने उन सुझावों को भी खारिज कर दिया कि ओपनएआई अपने बुनियादी ढांचे के खर्च को कम कर रहा है, यह कहते हुए कि कंपनी बदलती कथाओं के बावजूद अपनी कंप्यूटिंग क्षमता का विस्तार करना जारी रखेगी।

उन्होंने कहा, "मुझे नहीं पता कि यह कहां से आ रहा है... लोग वास्तव में पीछे हटने की कहानी लिखना चाहते हैं।" "लेकिन बहुत जल्द यह फिर से ऐसा होगा, 'ओपनएआई बहुत लापरवाह है। वे इस भारी मात्रा में पैसा कैसे खर्च कर सकते हैं?'"