AI-सक्षम बाल यौन शोषण के बढ़ते मामलों को संबोधित करने के उद्देश्य से, OpenAI ने बुधवार को एक नीतिगत ब्लूप्रिंट प्रकाशित किया, जिसमें नए सुरक्षा उपायों की रूपरेखा दी गई है जिन्हें उद्योग बाल यौन शोषण सामग्री बनाने में AI के उपयोग को रोकने में मदद करने के लिए अपना सकता है।

इस ढांचे में, OpenAI ने AI-सक्षम दुरुपयोग के खिलाफ सुरक्षा को मजबूत करने और प्रौद्योगिकी कंपनियों और जांचकर्ताओं के बीच समन्वय में सुधार के उद्देश्य से कानूनी, परिचालन और तकनीकी उपायों को सूचीबद्ध किया है।

कंपनी ने लिखा, “बाल यौन शोषण डिजिटल युग की सबसे गंभीर चुनौतियों में से एक है।” “AI तेजी से बदल रहा है कि ये नुकसान उद्योग भर में कैसे उभरते हैं और बड़े पैमाने पर उन्हें कैसे संबोधित किया जा सकता है।”

OpenAI ने कहा कि इस प्रस्ताव में बाल संरक्षण और ऑनलाइन सुरक्षा के क्षेत्र में काम करने वाले संगठनों, जिनमें नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन और अटॉर्नी जनरल अलायंस तथा इसकी AI टास्क फोर्स शामिल हैं, से प्राप्त फीडबैक को शामिल किया गया है।

नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन की अध्यक्ष और सीईओ, मिशेल डीलाउने ने एक बयान में कहा, "जेनरेटिव AI ऑनलाइन बाल यौन शोषण के अपराध को गंभीर रूप से परेशान करने वाले तरीकों से तेज कर रहा है - बाधाओं को कम कर रहा है, पैमाने को बढ़ा रहा है और नुकसान के नए रूपों को सक्षम कर रहा है।" “लेकिन साथ ही, नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन उन कंपनियों जैसे OpenAI को देखकर उत्साहित है जो इस बात पर विचार कर रही हैं कि इन उपकरणों को और अधिक जिम्मेदारी से कैसे डिजाइन किया जा सकता है, जिसमें शुरुआत से ही सुरक्षा उपाय शामिल हों।”

OpenAI ने कहा कि यह ढांचा AI मॉडलों के भीतर कानूनी मानकों, उद्योग रिपोर्टिंग प्रणालियों और तकनीकी सुरक्षा उपायों को जोड़ता है। कंपनी ने कहा कि इन उपायों का उद्देश्य शोषण के जोखिमों की पहले पहचान करने और ऑनलाइन प्लेटफॉर्म पर जवाबदेही में सुधार करने में मदद करना है।

ब्लूप्रिंट कार्रवाई के क्षेत्रों की पहचान करता है, जिसमें AI-जनित या परिवर्तित बाल यौन शोषण सामग्री को संबोधित करने के लिए कानूनों को अपडेट करना, ऑनलाइन प्रदाताओं द्वारा दुर्व्यवहार संकेतों की रिपोर्ट करने और जांचकर्ताओं के साथ समन्वय करने के तरीके में सुधार करना, और दुरुपयोग को रोकने के लिए डिज़ाइन की गई AI प्रणालियों में सुरक्षा उपायों का निर्माण करना शामिल है।

कंपनी ने लिखा, "कोई भी एक हस्तक्षेप अकेले इस चुनौती का समाधान नहीं कर सकता है।" "यह ढांचा जोखिमों की बेहतर पहचान करने, प्रतिक्रियाओं में तेजी लाने और जवाबदेही का समर्थन करने के लिए कानूनी, परिचालन और तकनीकी दृष्टिकोणों को एक साथ लाता है, जबकि यह सुनिश्चित करता है कि प्रौद्योगिकी के विकसित होने के साथ प्रवर्तन प्राधिकरण मजबूत रहें।"

यह ब्लूप्रिंट ऐसे समय में आया है जब बाल सुरक्षा अधिवक्ताओं ने चिंता जताई है कि यथार्थवादी छवियां बनाने में सक्षम जेनरेटिव AI प्रणालियों का उपयोग नाबालिगों के हेरफेर या सिंथेटिक चित्रण बनाने के लिए किया जा सकता है। फरवरी में, यूनिसेफ ने विश्व सरकारों से AI-जनित बाल शोषण सामग्री को अपराधी बनाने वाले कानून पारित करने का आह्वान किया।

जनवरी में, यूरोपीय आयोग ने इस बात की औपचारिक जांच शुरू की कि क्या X, जिसे पहले ट्विटर के नाम से जाना जाता था, ने प्लेटफॉर्म के मूल AI मॉडल, ग्रोक (Grok) को अवैध सामग्री बनाने से रोकने में विफल होकर यूरोपीय संघ के डिजिटल नियमों का उल्लंघन किया है, जैसा कि यूनाइटेड किंगडम और ऑस्ट्रेलिया में नियामकों ने भी जांच शुरू की है।

यह देखते हुए कि अकेले कानून AI-जनित दुरुपयोग सामग्री के संकट को नहीं रोकेंगे, OpenAI ने कहा कि AI प्रणालियों के अधिक सक्षम होने पर मजबूत उद्योग मानकों की आवश्यकता होगी।

OpenAI ने कहा, "शोषण के प्रयासों को जल्द रोककर, कानून प्रवर्तन को भेजे गए संकेतों की गुणवत्ता में सुधार करके, और पूरे पारिस्थितिकी तंत्र में जवाबदेही को मजबूत करके, इस ढांचे का उद्देश्य नुकसान होने से पहले उसे रोकना और जोखिमों के सामने आने पर बच्चों के लिए तेजी से सुरक्षा सुनिश्चित करने में मदद करना है।"