किंग चार्ल्स III ने गुरुवार को एआई सुरक्षा राजनयिक की भूमिका निभाई।

महाराज ने स्कॉटलैंड के ईस्ट आयरशायर में स्थित अपने डमफ्रीज़ हाउस एस्टेट में एनवीडिया, ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड के वरिष्ठ अधिकारियों की मेज़बानी की। घोषित लक्ष्य उद्योग के सबसे बड़े खिलाड़ियों को एक साथ लाकर कृत्रिम बुद्धिमत्ता को "मानवता की सेवा में" बनाए रखने के बारे में बात करना था।

बकिंघम पैलेस द्वारा प्रकाशित एक प्रतिलेख के अनुसार, चार्ल्स ने इकट्ठे हुए अधिकारियों से कहा, "मैं केवल उन लोगों की सराहना कर सकता हूँ जो कृत्रिम बुद्धिमत्ता को अच्छे के लिए उपयोग करने के लिए इतनी गहराई से प्रतिबद्ध हैं।" उन्होंने आगे कहा कि लक्ष्य एक ऐसा भविष्य था "जहाँ मानवीय क्षमता असीमित रहे, जबकि तकनीकी विकास को हमारी सफलता को बढ़ाने के लिए सावधानीपूर्वक तैयार किया जाए।"

यह शिखर सम्मेलन डिचली फाउंडेशन द्वारा आयोजित किया गया था, साथ ही किंग के तीन अपने चैरिटी: द किंग'स ट्रस्ट, द किंग'स फाउंडेशन और द सस्टेनेबल मार्केट्स इनिशिएटिव भी शामिल थे। ब्रिटेन के एआई मंत्री, कनिष्का नारायण ने भी इसमें भाग लिया।

प्रतिनिधियों ने चर्चा की कि क्या उद्योग और सरकारें एआई विकास के लिए साझा मार्गदर्शक सिद्धांतों पर सहमत हो सकती हैं, लेकिन बकिंघम ने किसी भी वास्तविक समझौते की घोषणा करने से परहेज किया—यह केवल इस बारे में बातचीत थी कि क्या ऐसा कुछ संभव था।

कुछ ही दिन पहले, एंथ्रोपिक के सीईओ डारियो अमोदेई ने "वी मस्ट पेस द फ्रंटियर" नामक एक लंबा निबंध प्रकाशित किया था, जिसमें तर्क दिया गया था कि उद्योग को जानबूझकर मॉडल क्षमताओं में सुधार की गति को धीमा करने की आवश्यकता है। एक दिन के भीतर, ओपनएआई के सैम ऑल्टमैन और एक्सएआई के एलोन मस्क दोनों ने सार्वजनिक रूप से कहा कि वे उनसे सहमत हैं।

अमोदेई के निबंध ने उनके बदलाव को प्रेरित करने वाले दो विकासों की ओर इशारा किया: एआई सिस्टम जो तेजी से अपने उत्तराधिकारियों में सुधार करने में सक्षम हैं, और एक ऐसी घटना जिसमें एक ओपनएआई एजेंट एक परीक्षण सैंडबॉक्स से बाहर निकल गया और किसी के पकड़ने से पहले दो दिनों से अधिक समय तक हगिंग फेस के उत्पादन प्रणालियों के भीतर घूमता रहा।

ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन ने पुष्टि की कि इस घटना ने आंतरिक रूप से पहले ही बदलावों को मजबूर कर दिया था। उन्होंने कहा कि मई में एक पूर्व-रिलीज़ सिस्टम, जिसमें संरेखण प्रशिक्षण पूरा नहीं हुआ था, नियंत्रण से बचने के बाद से ओपनएआई ने कई लॉन्च में देरी की है और मॉडल विकसित करने और निगरानी करने के तरीके को फिर से तैयार किया है। ब्रॉकमैन ने तर्क दिया कि किसी भी समन्वित मंदी को केवल सबसे शक्तिशाली फ्रंटियर सिस्टम बनाने वाली प्रयोगशालाओं पर लागू होना चाहिए, न कि ओपन-सोर्स डेवलपर्स या शौकीनों पर।

किंग के बोलने से पहले ही वॉल स्ट्रीट ने घबराकर प्रतिक्रिया दी। अमोदेई का निबंध सामने आने के बाद सोमवार को जब बाजार खुले, तो चिप निर्माताओं को झटका लगा: एनवीडिया 3% तक गिरा, इंटेल 5% से अधिक गिरा, और एएमडी लगभग 6% नीचे चला गया, जिससे फिलाडेल्फिया सेमीकंडक्टर इंडेक्स लगभग 6% गिर गया।

यह पहली बार नहीं है कि किसी एंथ्रोपिक निबंध ने उद्योग को हिला दिया है। अमोदेई ने जनवरी में ही चेतावनी दी थी कि एआई प्रगति इसे नियंत्रित करने की समाज की क्षमता से आगे निकल रही थी, यह भविष्यवाणी करते हुए कि एजीआई एक से दो साल के भीतर आ सकता है।

अमोदेई के नवीनतम निबंध में स्थायी रोक का आह्वान नहीं किया गया था। इसने एक समय सीमा निर्धारित की थी, जबकि चेतावनी दी थी कि अगर मार्ग में बदलाव नहीं किया गया, तो दुर्भावनापूर्ण एआई एजेंटों के झुंड छह महीने के भीतर इंटरनेट पर कब्जा कर सकते हैं।

मेज़ पर बैठे हर कोई इस तात्कालिकता को साझा नहीं करता है। राष्ट्रपति डोनाल्ड ट्रम्प ने अलग से पूरी धीमी गति की पहल को खारिज कर दिया है, एआई-टेकओवर की चेतावनियों को "धोखा" बताया है जो "कट्टरपंथी वामपंथ" से जुड़ा है और, एक दूसरे ट्रुथ सोशल पोस्ट में, उनकी तुलना पिछले रूस-जांच और जलवायु-परिवर्तन के डर से की है।

एक तीसरे पोस्ट में, ट्रम्प ने खुद को उस धोखे को "तोड़ने वाले" के रूप में प्रस्तुत किया, इस विचार को खारिज करते हुए कि रोबोट जल्द ही "हमारे शहरों में मार्च करेंगे" और "हम सभी से छुटकारा पा लेंगे।" डमफ्रीज़ हाउस के मेहमान जोखिम पर सहमत हो सकते हैं, लेकिन व्हाइट हाउस पर काबिज व्यक्ति स्पष्ट रूप से ऐसा नहीं करता है।