آنتونیو گوترش، دبیرکل سازمان ملل، روز دوشنبه اولین گفتگوی جهانی حاکمیت هوش مصنوعی را در ژنو افتتاح کرد و به 193 کشور گفت که هوش مصنوعی در حال حاضر از نهادهایی که برای حکمرانی آن در نظر گرفته شده‌اند پیشی گرفته است – و اینکه بشریت در حال انجام یک آزمایش بر روی خود "بدون برنامه و بدون رضایت" است.

گوترش در افتتاحیه سخنرانی اصلی خود گفت: "هوش مصنوعی با سرعت سرسام آوری در حال پیشرفت است. فناوری ای که می تواند اقتصادها را دگرگون کند، دنیای کار را متحول سازد، در انتخابات تأثیر بگذارد و تعادل امنیتی را بر هم بزند، سریعتر از آنچه هر کسی – از جمله سازندگان آن – بتواند همگام شود، در حال استقرار است."

این جلسه شامل تمامی 193 کشور عضو سازمان ملل بود که در ژنو در اولین گفتگوی جهانی حاکمیت هوش مصنوعی گرد هم آمده بودند؛ تلاشی چندجانبه برای حکمرانی بر فناوری ای که پیش از این از همه کسانی که سعی در انجام آن داشتند، پیشی گرفته است.

مفهومی که گوترش برای توضیح خطرات هوش مصنوعی بدون حکمرانی استفاده کرد، "وایب کدینگ" (vibe coding) بود – اصطلاحی که توسط آندری کارپاتی، عضو مؤسس OpenAI و مدیر سابق هوش مصنوعی در تسلا، برای توصیف برنامه نویسی بر اساس حس و غریزه ابداع شد: به هوش مصنوعی بگویید چه می خواهید، بگذارید بقیه کار را انجام دهد، زیاد دقیق نگاه نکنید. دیکشنری Merriam-Webster اخیراً این اصطلاح را به فرهنگ لغت خود اضافه کرده است.

گوترش تصدیق کرد که وایب کدینگ "می تواند معجزه کند" همانطور که مردم بیشتری به محصولات ساخته شده با هوش مصنوعی اعتماد می کنند.

او گفت: "اما ما نمی توانیم حقیقت را با وایب کدینگ مدیریت کنیم. ما نمی توانیم آینده بشریت را با وایب کدینگ مدیریت کنیم."

اعداد پشت این جمله نرم نبودند. گوترش گفت که اینترنت 15 سال طول کشید تا به یک میلیارد نفر برسد و هوش مصنوعی دو سال. او سیستم های فعلی را اینگونه توصیف کرد: "دیگر ابزارهایی نیستند که منتظر دستورالعمل باشند – آنها کد می نویسند، آنلاین عمل می کنند و با نظارت انسانی کمتر و کمتر تصمیم می گیرند."

"نهادهای ما برای اداره ماشین هایی ساخته شده بودند که از دستورات پیروی می کنند. آنها برای ماشین هایی که تصمیم می گیرند، آماده نیستند."

این گفتگو از پیمان جهانی دیجیتال 2024 متولد شد که برای اولین بار حکمرانی بین المللی هوش مصنوعی را به عنوان یک مأموریت سازمان ملل تثبیت کرد. جلسه افتتاحیه آن دو سال بعد، گزارش مقدماتی هیئت علمی بین المللی مستقل در مورد هوش مصنوعی – 40 دانشمند از 140 کشور – را نیز دریافت کرد که هفته گذشته یافته ای را منتشر کرد که هیچ کس در حال حاضر نمی تواند تضمین کند هوش مصنوعی باعث آسیب فاجعه بار نخواهد شد.

سرعت یکی از سه هشدار گوترش بود که از این هیئت استخراج شد. دومین مورد قدرت بود: محاسبات، داده ها و استعدادها در تعداد انگشت شماری از شرکت ها و کشورها متمرکز شده اند، بیشتر جهان از تصمیماتی که در حال حاضر آن را شکل می دهند محروم مانده اند، چیزی که کارشناسان دیگر هوش مصنوعی مانند یان لوکون، اندی کووینسکی و یوشوا بنجیو را نیز نگران می کند.

سومین مورد حقیقت بود – یک دروغ ساخته شده توسط ماشین اکنون به همان اندازه یک واقعیت تأیید شده متقاعد کننده است و به طور مداوم آنچه گوترش آن را "یکپارچگی اکوسیستم اطلاعاتی ما" می نامید را تضعیف می کند.

کودکان موش آزمایشگاهی و ربات‌های قاتل

از جمله پیشنهادات ملموس گوترش، "تعهدنامه ایمنی کودکان در هوش مصنوعی" است که شرکت‌ها را ملزم می‌کند قبل از رسیدن هر هوش مصنوعی به کودکان، ایمنی را از طریق آزمایش‌های مستقل اثبات کنند، نسبت به تولید تصاویر سوءاستفاده جنسی از کودکان تحمل صفر داشته باشند و کودکان آشفته را به حمایت انسانی واقعی متصل کنند، به جای اینکه آنها را با یک ربات چت تنها بگذارند. "هیچ کودکی نباید موش آزمایشگاهی برای هوش مصنوعی کنترل نشده باشد."

و سپس ربات‌های قاتل مطرح شدند. گوترش تسلیحات خودمختار کشنده – ماشین‌هایی که هدفی را بدون قضاوت انسانی انتخاب و از بین می‌برند – را "از نظر اخلاقی منزجرکننده" خواند و خواستار ممنوعیت آنها توسط قوانین بین‌المللی شد.

کشورها در حال حاضر بر سر میز مذاکره هستند. او پیشنهاد نکرد که عجله نکنند.

این گفتگو در سال 2027 در نیویورک دوباره برگزار خواهد شد. گوترش همچنین از مجمع عمومی خواست تا یک صندوق جهانی برای هوش مصنوعی با تمرکز بر دسترسی به محاسبات برای کشورهای در حال توسعه ایجاد کند و از هر شرکت بزرگ هوش مصنوعی خواست تا تا سال 2030 تمام مراکز داده خود را با انرژی تجدیدپذیر اداره کنند – سالی که او تخمین می زند این تأسیسات از نظر مصرف برق از همه کشورها به جز پنج کشور پیشی خواهند گرفت.