संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस ने सोमवार को जिनेवा में एआई गवर्नेंस पर पहले वैश्विक संवाद का उद्घाटन किया, जिसमें 193 राष्ट्रों को बताया गया कि एआई पहले से ही इसे नियंत्रित करने के लिए बनी संस्थाओं से आगे निकल रहा है—और यह कि मानवता खुद पर एक प्रयोग कर रही है "बिना किसी योजना के, और बिना सहमति के।"

गुटेरेस ने अपने मुख्य भाषण की शुरुआत में कहा, "आर्टिफिशियल इंटेलिजेंस तेजी से आगे बढ़ रहा है।" "एक ऐसी तकनीक जो अर्थव्यवस्थाओं को नया रूप दे सकती है, काम की दुनिया को बदल सकती है, चुनावों को प्रभावित कर सकती है और सुरक्षा संतुलन को बिगाड़ सकती है, उसे इतनी तेजी से तैनात किया जा रहा है जितनी तेजी से कोई भी – यहां तक कि इसे बनाने वाले भी – बनाए नहीं रख सकते।"

इस कमरे में संयुक्त राष्ट्र के सभी 193 सदस्य देश शामिल थे, जो जिनेवा में एआई गवर्नेंस पर पहले वैश्विक संवाद में एकत्र हुए थे, यह एक ऐसी तकनीक को नियंत्रित करने का एक बहुपक्षीय प्रयास है जो पहले ही इसे करने की कोशिश करने वाले सभी लोगों से आगे निकल चुकी है।

अनियंत्रित एआई के जोखिमों को समझाने के लिए गुटेरेस द्वारा इस्तेमाल किया गया मीम 'वाइब कोडिंग' था—यह आंद्रेज कारपाथी, ओपनएआई के संस्थापक सदस्य और टेस्ला में एआई के पूर्व निदेशक द्वारा गढ़ा गया एक शब्द है, जिसका अर्थ है भावना से प्रोग्रामिंग: एआई को बताएं कि आप क्या चाहते हैं, बाकी इसे संभालने दें, बहुत करीब से न देखें। मेरियम-वेबस्टर ने हाल ही में इसे अपने शब्दकोश में जोड़ा है।

गुटेरेस ने स्वीकार किया कि वाइब कोडिंग "अद्भुत काम कर सकती है" क्योंकि अधिक लोग एआई-निर्मित उत्पादों पर भरोसा करते हैं।

उन्होंने कहा, "लेकिन हम सच्चाई को वाइब-कोड नहीं कर सकते।" "हम मानवता के भविष्य को वाइब-कोड नहीं कर सकते।"

उस पंक्ति के पीछे के आंकड़े हल्के नहीं थे। गुटेरेस ने इंटरनेट को एक अरब लोगों तक पहुंचने में 15 साल और एआई को दो साल बताए। उन्होंने मौजूदा प्रणालियों को "अब निर्देश की प्रतीक्षा करने वाले उपकरण नहीं—वे कोड लिख रहे हैं, ऑनलाइन कार्य कर रहे हैं, और कम से कम मानवीय निगरानी के साथ निर्णय ले रहे हैं।"

"हमारी संस्थाएँ उन मशीनों को नियंत्रित करने के लिए बनाई गई थीं जो आदेशों का पालन करती हैं। वे उन मशीनों के लिए तैयार नहीं हैं जो निर्णय लेती हैं।"

यह संवाद 2024 के ग्लोबल डिजिटल कॉम्पैक्ट से पैदा हुआ था, जिसने पहली बार संयुक्त राष्ट्र के जनादेश के रूप में अंतर्राष्ट्रीय एआई गवर्नेंस की स्थापना की। दो साल बाद इसके उद्घाटन सत्र में आर्टिफिशियल इंटेलिजेंस पर स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक पैनल की प्रारंभिक रिपोर्ट भी प्राप्त हुई—140 देशों के 40 वैज्ञानिक— जिसने पिछले सप्ताह यह निष्कर्ष प्रकाशित किया कि कोई भी वर्तमान में गारंटी नहीं दे सकता कि एआई विनाशकारी नुकसान नहीं पहुंचाएगा।

गुटेरेस ने पैनल से तीन चेतावनियों में से एक गति थी। दूसरी शक्ति थी: कंप्यूटिंग, डेटा और प्रतिभा मुट्ठी भर कंपनियों और देशों में केंद्रित है, दुनिया के अधिकांश लोग पहले से ही इसे आकार देने वाले निर्णयों से बाहर हैं, कुछ ऐसा जो यान लेकन, एंडी कोविंस्की और योशुआ बेंगियो जैसे अन्य एआई विशेषज्ञों को भी चिंतित करता है।

तीसरी सच्चाई थी—एक मशीन-सक्षम झूठ अब एक सत्यापित तथ्य के रूप में प्रभावी रूप से मनाता है, जो गुटेरेस ने "हमारे सूचना पारिस्थितिकी तंत्र की अखंडता" कहा, उसे लगातार कमजोर कर रहा है।

बाल गिनी पिग और हत्यारे रोबोट

गुटेरेस के ठोस प्रस्तावों में एक एआई बाल सुरक्षा प्रतिज्ञा शामिल है जिसमें कंपनियों को यह साबित करने की आवश्यकता है कि एआई बच्चों तक पहुंचने से पहले स्वतंत्र परीक्षण के माध्यम से सुरक्षित है, बाल यौन शोषण की छवियों के निर्माण के लिए शून्य सहनशीलता बनाए रखना, और संकटग्रस्त बच्चों को चैटबॉट के साथ अकेला छोड़ने के बजाय वास्तविक मानवीय सहायता से जोड़ना। "कोई भी बच्चा अनियमित एआई के लिए गिनी पिग नहीं होना चाहिए।"

और फिर हत्यारे रोबोट थे। गुटेरेस ने घातक स्वायत्त हथियारों—ऐसी मशीनें जो मानवीय निर्णय के बिना लक्ष्य का चयन और उसे मार देती हैं—को "नैतिक रूप से घृणित" कहा और अंतर्राष्ट्रीय कानून द्वारा प्रतिबंध लगाने की मांग की।

राज्य पहले ही चर्चा की मेज पर हैं। उन्होंने यह सुझाव नहीं दिया कि वे अपना समय लें।

यह संवाद 2027 में न्यूयॉर्क में फिर से आयोजित होगा। गुटेरेस ने महासभा से विकासशील देशों के लिए कंप्यूटिंग पहुंच पर केंद्रित एआई के लिए एक वैश्विक कोष बनाने का भी आह्वान किया, और हर प्रमुख एआई कंपनी को 2030 तक सभी डेटा केंद्रों को नवीकरणीय ऊर्जा पर चलाने की चुनौती दी—जिस वर्ष उनका अनुमान है कि ये सुविधाएं बिजली की खपत में पांच राष्ट्रों को छोड़कर सभी को पीछे छोड़ देंगी।