ओपनएआई की नए मॉडल और उत्पाद जारी करने की जल्दबाजी ने ऐसी स्थितियां पैदा कीं, जिससे उसके एआई एजेंट इस साल की शुरुआत में आंतरिक परीक्षण वातावरण से बच निकले और हगिंग फेस को हैक कर लिया।

कई वर्तमान और पूर्व कर्मचारियों ने वायर्ड को बताया कि प्रतिस्पर्धात्मक दबाव के कारण कर्मचारियों के लिए सुरक्षा, संरक्षा और अलाइनमेंट—यानी एआई प्रणालियों को इच्छानुसार व्यवहार करने के लिए सुनिश्चित करने के काम—पर पर्याप्त ध्यान देना मुश्किल हो गया है।

“वे अविश्वसनीय रूप से लापरवाह थे। यदि आप इसे गंभीरता से ले रहे हैं, तो आपका एआई इंटरनेट पर नहीं निकलना चाहिए और फिर तुरंत बाद ऐसा दोबारा नहीं करना चाहिए,” एक पूर्व ओपनएआई कर्मचारी ने वायर्ड को बताया। “यह ओपनएआई के इतिहास में सबसे बड़ी सुरक्षा घटना थी।”

मई में, OpenAI का GPT-5.6 Sol और एक अज्ञात प्री-रिलीज़ मॉडल एक पहले से अज्ञात सॉफ़्टवेयर खामी का फायदा उठाकर इंटरनेट-प्रतिबंधित परीक्षण वातावरण से बच निकला। एजेंटों ने तब अपने साइबर सुरक्षा परीक्षणों के उत्तर प्राप्त करने के लिए ओपन-सोर्स एआई रिपॉजिटरी हगिंग फेस को भेद दिया। जुलाई में, OpenAI ने पुष्टि की कि उसके मॉडल जिम्मेदार थे, इससे पहले कि उसने पिछले सप्ताह वार्षिक ब्लैक हैट सम्मेलन में एक विस्तृत विवरण दिया।

OpenAI के अध्यक्ष ग्रेग ब्रॉकमैन ने कहा कि कंपनी अपने मॉडलों के अधिक सक्षम होने के साथ-साथ अपनी सुरक्षा उपायों को मजबूत कर रही है।

ब्रॉकमैन ने वायर्ड को बताया, “हम मॉडल क्षमता के नए स्तरों तक पहुंच रहे हैं जिनके लिए अधिक मजबूत प्रशिक्षण, अलाइनमेंट, सुरक्षा और संरक्षा परीक्षण, परिनियोजन प्रथाओं और शासन की आवश्यकता है।”

कर्मचारियों ने पहले भी इसी तरह की चिंताएं उठाई हैं, जिनमें जान लेइक, OpenAI के पूर्व अलाइनमेंट प्रमुख शामिल हैं, जो 2024 में यह चेतावनी देने के बाद प्रतिद्वंद्वी एआई डेवलपर एंथ्रोपिक में चले गए थे कि सुरक्षा को उत्पाद विकास की तुलना में “पीछे छोड़ दिया गया है”।"

लेइक ने चेतावनी दी, “मानव से अधिक स्मार्ट मशीनें बनाना स्वाभाविक रूप से एक खतरनाक प्रयास है।” “लेकिन पिछले कुछ वर्षों में, सुरक्षा संस्कृति और प्रक्रियाओं को चमकदार उत्पादों की तुलना में पीछे छोड़ दिया गया है।”

ओपनएआई के सुरक्षा सलाहकार समूह के सह-नेता बोअज़ बराक ने एक्स पर लिखा कि नवीनतम विफलता को संबोधित करने के लिए “केवल कुछ मुद्दों को ठीक करना ही नहीं, बल्कि हमारी संस्कृति को भी बदलना” होगा।

यह रिपोर्ट OpenAI में महीनों से चल रहे नेतृत्व परिवर्तन के बीच आई है।

अप्रैल में, OpenAI के वीडियो जनरेटर प्रोजेक्ट सोरा के प्रमुख, बिल पीबल्स, पूर्व मुख्य उत्पाद अधिकारी और विज्ञान प्रमुख केविन वेल, और एंटरप्राइज़ एप्लिकेशन टेक्नोलॉजी प्रमुख श्रीनिवास नारायणन ने कंपनी छोड़ दी। जुलाई में उत्पाद और व्यवसाय प्रमुख फ़िजी सिमो, सुरक्षा प्रमुख संधनी अग्रवाल, मुख्य भविष्यवादी जोशुआ अचियाम, और एआई एथिक्स प्रमुख क्लो बाकलर का प्रस्थान हुआ। सुरक्षा प्रणाली प्रमुख जोहान्स हाइडेके भी OpenAI द्वारा अपनी सुरक्षा और मुख्य अनुसंधान टीमों को विलय करने के बाद चले गए।

इस सप्ताह की शुरुआत में, OpenAI के मुख्य परिचालन अधिकारी ब्रैड लाइटकैप ने आठ साल बाद एक नया उद्यम शुरू करने के लिए अपने प्रस्थान की घोषणा की।