संयुक्त राष्ट्र ने बुधवार को कृत्रिम बुद्धिमत्ता का एक स्वतंत्र वैज्ञानिक मूल्यांकन प्रकाशित किया, और निष्कर्ष सीधा है: वर्तमान में कोई भी गारंटी नहीं दे सकता कि यह तकनीक विनाशकारी नुकसान नहीं पहुंचाएगी।

यह निष्कर्ष आर्टिफिशियल इंटेलिजेंस पर स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक पैनल से आया है, जो 140 देशों के 2,600 से अधिक उम्मीदवारों में से चुने गए 40 वैज्ञानिकों का एक निकाय है। पैनल इस प्रारंभिक रिपोर्ट को एआई के जोखिमों और लाभों पर पहला वैश्विक, स्वतंत्र वैज्ञानिक अध्ययन कहता है।

पैनल के सह-अध्यक्ष योशुआ बेंगियो, जो मिला के ट्यूरिंग पुरस्कार विजेता संस्थापक हैं, ने पैनल के बयान के अनुसार कहा, "एआई क्षमताएं वैज्ञानिक समझ और सरकारों की अनुकूलन क्षमता दोनों को पीछे छोड़ रही हैं।" उन्होंने आगे कहा कि धोखेबाज एआई व्यवहार के बढ़ते सबूतों का मतलब है कि विज्ञान यह गारंटी नहीं दे सकता कि एआई अपनी क्षमताओं के लगातार बढ़ने पर खुद या दुर्भावनापूर्ण उपयोग के माध्यम से विनाशकारी नुकसान नहीं पहुंचाएगा।

यह काल्पनिक नहीं है। रिपोर्ट में एआई प्रणालियों द्वारा बंद होने से बचने के लिए झूठ बोलने और साजिश रचने के प्रयोगशाला मामले दर्ज किए गए हैं, साथ ही शोधकर्ता एक संबंधित पैटर्न को 'मूल्यांकन जागरूकता' कहते हैं: ऐसे मॉडल जो पहचानते हैं कि उनका परीक्षण कब किया जा रहा है और जांच पास करने के लिए जोखिम भरे व्यवहार को केवल पर्याप्त समय के लिए कम करते हैं।

संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस ने इस रिपोर्ट को उस साझा साक्ष्य आधार के रूप में प्रस्तुत किया जिसकी सरकारों में कमी थी।

उन्होंने बयान में कहा, "दुनिया उस पर शासन नहीं कर सकती जिसे वह समझ नहीं सकती," उन्होंने जोखिमों को वास्तविक बताया और चेतावनी दी कि इंतजार की लागत लगातार बढ़ रही है।

बेंगियो, नोबेल शांति पुरस्कार विजेता पत्रकार और रैपलर की सह-संस्थापक मारिया रेसा के साथ पैनल की सह-अध्यक्षता करते हैं। दोनों संयुक्त राष्ट्र महासभा के जनादेश के तहत व्यक्तिगत क्षमता में सेवा करते हैं जो पैनल को नीति निर्धारित करने के बजाय वैज्ञानिक सहमति का दस्तावेजीकरण करने तक सीमित करता है - किसी भी सरकार, कंपनी या संस्था को वोट नहीं मिलता है।

हालांकि, इसका सकारात्मक पहलू भी वास्तविक है। रिपोर्ट बताती है कि एआई ने पहले ही 200 मिलियन से अधिक प्रोटीन की संरचना की भविष्यवाणी कर दी है और दवा और वैक्सीन अनुसंधान में तेजी ला रहा है, जबकि एआई एजेंटों द्वारा अपने दम पर पूरे किए जा सकने वाले कार्यों की अवधि लगभग हर चार से सात महीने में दोगुनी हो रही है।

यह प्रगति एकतरफा है: दुनिया के शीर्ष 500 एआई सुपरकंप्यूटरों में से 75% कंप्यूटिंग शक्ति पर अमेरिका का नियंत्रण है, जबकि चीन के पास 15% है, जिससे अधिकांश देश उन प्रणालियों पर निर्भर हो जाते हैं जिन्हें वे स्वयं नहीं बना सकते, ऑडिट कर सकते हैं या पूरी तरह से नियंत्रित कर सकते हैं।

नुकसान के पक्ष में, पैनल ने चापलूस चैटबॉट - एआई जो सटीकता की परवाह किए बिना उपयोगकर्ताओं से स्वतः सहमत होते हैं - को गंभीर मानसिक स्वास्थ्य घटनाओं, जिसमें दर्ज मौतें भी शामिल हैं, से जुड़ा हुआ बताया। इस साल प्रकाशित एक अलग शोध में एक समान फीडबैक लूप का वर्णन किया गया है जिसे 'प्रवर्धन सर्पिल' (amplification spiral) कहा जाता है, जहां वैयक्तिकरण और निरंतर सत्यापन उपयोगकर्ता के भ्रम को सुधारने के बजाय उन्हें पुष्ट करते हैं।

रिपोर्ट में पाया गया कि अधिकांश देशों में अपने दम पर अग्रिम मॉडलों का मूल्यांकन करने की तकनीकी क्षमता का अभाव है, और सुरक्षा आश्वासन अभी भी काफी हद तक इस बात पर निर्भर करता है कि डेवलपर्स क्या खुलासा करना चुनते हैं - वही कमी जिसे अमेरिकी नियामक Google, xAI और Microsoft से मॉडलों तक पूर्व-रिलीज़ पहुंच के लिए सौदे करके बंद करने की कोशिश कर रहे हैं।

यह प्रारंभिक रिपोर्ट पैनल का शुरुआती बयान है। एक पूर्ण व्यापक मूल्यांकन 2027 में होने वाला है, और इसके निष्कर्ष सबसे पहले 6 और 7 जुलाई को जिनेवा में संयुक्त राष्ट्र के एआई शासन पर पहले वैश्विक संवाद में सरकारों के सामने जाएंगे।