संयुक्त राष्ट्र सुरक्षा परिषद बुधवार दोपहर उन लोगों की बात सुनेगी, जो उसी तकनीक का निर्माण करते हैं जिससे उसे सबसे अधिक चिंता है।

OpenAI के CEO सैम ऑल्टमैन, Anthropic के CEO डारियो अमोडेई, एआई सुरक्षा शोधकर्ता योशुआ बेंगियो, और Hugging Face के CEO क्लेमेंट डेलांग सभी 15-सदस्यीय परिषद को—जो संयुक्त राष्ट्र की वह संस्था है जिसके पास प्रतिबंध और सैन्य कार्रवाई को अधिकृत करने की शक्ति है—कृत्रिम बुद्धिमत्ता से उत्पन्न जोखिमों पर ब्रीफ करने वाले हैं।

DeepSeek को भी आमंत्रित किया गया है। जनवरी 2025 में कम-कीमत वाला मॉडल लॉन्च कर Nvidia के मार्केट कैप से लगभग 600 अरब डॉलर मिटा देने वाले इस चीनी स्टार्टअप से बयान देने को कहा गया है। इसके साथ एक अन्य चीनी कंपनी Moonshot, जो Kimi मॉडल्स की डेवलपर है, भी शामिल होगी।

बुधवार के इस सत्र का आयोजन फ्रांस ने किया है और इस महीने परिषद की घूर्णन अध्यक्षता भी उसी के पास है। विदेश मंत्री जाँ-नोएल बारो इसकी अध्यक्षता करेंगे, और रिपोर्टों के अनुसार बैठक के पीछे तैयार की गई अवधारणा-नोट का केंद्र एआई सिस्टम्स का मानव नियंत्रण से बाहर फिसल जाना है।

इसी ब्रीफिंग में ऐसे एआई पर भी चर्चा होने की उम्मीद है, जो अंततः साइबर हमले चला सके, चुनावों को प्रभावित कर सके, या बिना किसी मानवीय हस्तक्षेप के हथियार डिज़ाइन कर सके। यही वजह है कि युद्ध और प्रतिबंधों के लिए बनी परिषद इस सप्ताह जनरलों के बजाय टेक CEOs की बात सुन रही है।

अमोडेई व्यक्तिगत रूप से उपस्थित होने के बजाय दूरस्थ रूप से शामिल होंगे। 12 सितंबर को उन्होंने "We Must Pace the Frontier" शीर्षक से एक निबंध प्रकाशित किया, जिसमें उन्होंने तर्क दिया कि उद्योग को जानबूझकर इस बात की रफ्तार धीमी करनी चाहिए कि वह अधिक सक्षम फ्रंटियर मॉडल्स कितनी तेजी से बना रहा है—यानी वे सबसे बड़े और सबसे उन्नत एआई सिस्टम्स, जिन्हें किसी भी लैब ने अब तक जारी किया है। उन्होंने कहा कि Anthropic अपने सुरक्षा वादों की जांच के लिए बाहरी मूल्यांकनकर्ताओं को स्थायी, स्टाफ-स्तरीय एक्सेस देगा। सैम ऑल्टमैन और एलन मस्क, दोनों ने कुछ ही घंटों में कहा कि वे इससे सहमत हैं।

अमोडेई ने चीन को "अब तक की सबसे उन्नत एआई क्षमताओं वाला अधिनायकवादी देश" बताया और तर्क दिया कि अमेरिका को बीजिंग के लिए उन्नत चिप्स के निर्यात पर प्रतिबंध जारी रखना चाहिए, भले ही वह बीजिंग से वैश्विक सुरक्षा नियमों पर सहयोग की मांग कर रहा हो। चीन के विदेश मंत्रालय ने इस निबंध को प्रतिकूल प्रभाव वाला बताया, और सरकारी मीडिया ने इसे चीन को रोकने के उद्देश्य से बना "शीत युद्ध प्लेबुक" करार दिया।

इस बीच, राष्ट्रपति डोनाल्ड ट्रंप इस धीमापन अभियान का हिस्सा नहीं बनना चाहते। अमोडेई का निबंध आने के बाद, राष्ट्रपति ने एआई-टेकओवर की चेतावनियों को "Radical Left" से जुड़ा "झांसा" बताया और बिना कोई सबूत दिए सीधे अमोडेई पर गलत काम करने का आरोप लगाया।

कुछ दिनों बाद, किंग चार्ल्स ने अपने स्कॉटिश एस्टेट में Anthropic, OpenAI, Nvidia और Google DeepMind के अधिकारियों की मेजबानी एक एआई सुरक्षा शिखर सम्मेलन के लिए की, जिससे चर्चा तो हुई, लेकिन कोई सार्वजनिक रूप से ज्ञात समझौता सामने नहीं आया।

बुधवार का यह सत्र भी किसी बाध्यकारी समझौते तक पहुंचे, इसकी संभावना कम है। यह 24 सितंबर को वॉशिंगटन में ट्रंप और चीनी राष्ट्रपति शी जिनपिंग की बैठक से दो दिन पहले हो रहा है, और रिपोर्टों के अनुसार इस शिखर वार्ता के एजेंडा में व्यापार के साथ एआई सुरक्षा भी शामिल है।