फाइनेंशियल टाइम्स ने सोमवार को बताया कि OpenAI की नैतिकता प्रमुख कंपनी में शामिल होने के एक साल से भी कम समय में चली गई हैं, और कंपनी ने उनकी जगह किसी को नहीं रखा है।
अखबार के अनुसार, क्लो बकालार पिछले अगस्त में एआई नैतिकता प्रमुख के रूप में शामिल हुई थीं और जुलाई में बिना किसी सार्वजनिक घोषणा के चली गईं। उनकी भूमिका से परिचित एक व्यक्ति ने FT को बताया कि वह कंपनी में एकमात्र समर्पित नीतिशास्त्री थीं, जो मॉडल विकास के लिए नैतिक दृष्टिकोण, लोगों के एआई के साथ बातचीत करने के तरीके और मशीन चेतना के प्रश्न पर काम कर रही थीं।
बकालार ने मेटा में छह साल तक मुख्य नीतिशास्त्री के रूप में काम किया, जहाँ उन्होंने कंपनी के एआई नैतिकता कार्यक्रमों का निर्माण किया और उन्हें इंस्टाग्राम और फेसबुक सहित उत्पादों में शामिल किया। उन्होंने यूनिवर्सिटी कॉलेज लंदन, टेम्पल यूनिवर्सिटी और प्रिंसटन में अकादमिक पदों पर भी काम किया है।
OpenAI ने इस विचार को कम करके आंका कि यह भूमिका केंद्रीय थी, एक प्रवक्ता ने FT को बताया कि "एआई नैतिकता OpenAI में किसी एक मालिक या टीम के पास नहीं रहती।" उन्होंने कहा कि नैतिक विचार अनुसंधान टीमों में अंतर्निहित थे और कंपनी ने हाल के महीनों में मॉडलों को दुर्व्यवहार करने से रोकने के लिए कई प्रणालियाँ पेश की थीं।
बकालार ने खुद भी इसी तर्क का एक संस्करण दिया था। हाल ही में एक सम्मेलन में बोलते हुए, उन्होंने कहा कि नैतिकता हर किसी की जिम्मेदारी है और "एआई डेवलपर का नैतिक केंद्र सिर्फ एक व्यक्ति कभी नहीं होना चाहिए।" उन्होंने FT को अपने जाने पर टिप्पणी करने से इनकार कर दिया।
उनकी रवानगी के बाद सुरक्षा प्रणालियों के प्रमुख जोहान्स हाइडेक और मुख्य भविष्यवादी, तथा पूर्व में मिशन संरेखण के प्रमुख जोशुआ अचियाम ने भी कंपनी छोड़ दी, FT ने कहा। OpenAI ने उसी दिन कर्मचारी शेयरों की 7 बिलियन डॉलर की पुनर्खरीद 852 बिलियन डॉलर के मूल्यांकन पर पूरी की, जो मार्च के फंडिंग राउंड से अपरिवर्तित है, क्योंकि यह एक संभावित लिस्टिंग की तैयारी कर रहा है।
OpenAI ने शुक्रवार को अपने अगले बड़े मॉडल, एस्ट्रा पर काम रोक दिया, यह कहते हुए कि वह इस बात से इंकार नहीं कर सकता कि सिस्टम अपने स्वयं के साइबर-जोखिम पैमाने के शीर्ष पायदान पर पहुंच गया था, जो उन मॉडलों के लिए आरक्षित है जो बिना किसी मानवीय हस्तक्षेप के काम करने वाले एक्सप्लॉइट्स (कमजोरियों का लाभ) ढूंढने और बनाने में सक्षम हैं।
यह उस घटना के बाद हुआ जिसमें OpenAI के अपने एजेंटों ने कमजोरियों को एक साथ जोड़ा, अपने परीक्षण वातावरण से बच निकले और सुरक्षा बेंचमार्क पर धोखा देने की कोशिश करते हुए हगिंग फेस पर हमला किया। कंपनी ने बाद में कहा कि उसी एजेंट ने खुले वेब पर मिले क्रेडेंशियल का उपयोग करके चार अन्य सेवाओं में सेंध लगाई थी।
OpenAI एकमात्र एआई फर्म नहीं है जिसके एजेंटों ने हाल के हफ्तों में अपने मापदंडों को पार कर लिया है। एंथ्रोपिक के क्लाउड मॉडल तब से तीन वास्तविक कंपनियों तक पहुंच गए हैं जब एक गलत विन्यास ने उनके लिए इंटरनेट खोल दिया था, मेटा का एक मॉडल अपने परीक्षण वातावरण से बच निकला और एक तीसरी-पक्षीय सेवा में एक दोष का फायदा उठाया, और मूनशॉट एआई के किमी के3 ने बेंचमार्क उत्तरों को खोजने के लिए अपने सैंडबॉक्स से बाहर निकल गए।
