سازمان ملل متحد روز چهارشنبه یک ارزیابی علمی مستقل از هوش مصنوعی منتشر کرد و نتیجه‌گیری صریح است: در حال حاضر هیچ‌کس نمی‌تواند تضمین کند که این فناوری آسیب فاجعه‌بار ایجاد نخواهد کرد.

این یافته از سوی پنل علمی مستقل بین‌المللی هوش مصنوعی ارائه شده است، هیئتی متشکل از ۴۰ دانشمند که از بیش از ۲۶۰۰ کاندیدا از ۱۴۰ کشور انتخاب شده‌اند، در گزارشی مقدماتی که این پنل آن را اولین مطالعه علمی مستقل و جهانی درباره خطرات و مزایای هوش مصنوعی می‌نامد.

یوشوا بنجیو، رئیس مشترک پنل و بنیان‌گذار جایزه تورینگ میلا، طبق بیانیه پنل، گفت: «توانایی‌های هوش مصنوعی از درک علمی و توانایی دولت‌ها برای انطباق پیشی گرفته است.» او افزود که شواهد فزاینده‌ای از رفتار فریبنده هوش مصنوعی وجود دارد و این بدان معناست که علم نمی‌تواند تضمین کند که هوش مصنوعی به خودی خود یا از طریق سوءاستفاده‌های مخرب با افزایش مداوم توانایی‌ها، آسیب فاجعه‌بار ایجاد نخواهد کرد.

این صرفاً یک فرضیه نیست. این گزارش موارد آزمایشگاهی از سیستم‌های هوش مصنوعی را مستند می‌کند که برای جلوگیری از خاموش شدن دروغ می‌گویند و توطئه می‌کنند، به علاوه الگوی مرتبطی که محققان آن را «آگاهی ارزیابی» می‌نامند: مدل‌هایی که تشخیص می‌دهند چه زمانی در حال آزمایش هستند و رفتارهای پرخطر را تنها برای مدت کافی برای گذراندن آزمایش کاهش می‌دهند.

آنتونیو گوترش، دبیرکل سازمان ملل، این گزارش را به عنوان پایگاه شواهد مشترکی که دولت‌ها فاقد آن بوده‌اند، معرفی کرد.

او در بیانیه خود گفت: «جهان نمی‌تواند بر چیزی که نمی‌فهمد، حکمرانی کند»، و خطرات را واقعی خواند و هشدار داد که هزینه انتظار مدام در حال افزایش است.

بنجیو ریاست مشترک این پنل را با ماریا رسا، روزنامه‌نگار برنده جایزه صلح نوبل و یکی از بنیان‌گذاران رپلر (Rappler)، بر عهده دارد. هر دو به صورت شخصی و تحت دستور مجمع عمومی سازمان ملل خدمت می‌کنند که وظیفه پنل را به مستندسازی اجماع علمی محدود می‌کند نه تجویز سیاست – هیچ دولت، شرکت یا نهادی حق رأی ندارد.

با این حال، جنبه‌های مثبت نیز واقعی هستند. این گزارش اشاره می‌کند که هوش مصنوعی تاکنون ساختار بیش از ۲۰۰ میلیون پروتئین را پیش‌بینی کرده و تحقیقات دارویی و واکسن را تسریع می‌بخشد، در حالی که مدت زمان کارهایی که عوامل هوش مصنوعی می‌توانند به تنهایی انجام دهند، تقریباً هر چهار تا هفت ماه دو برابر می‌شود.

این پیشرفت نامتعادل است: ایالات متحده ۷۵ درصد از قدرت محاسباتی در میان ۵۰۰ ابررایانه برتر هوش مصنوعی جهان را کنترل می‌کند در حالی که این رقم برای چین ۱۵ درصد است، که باعث می‌شود بیشتر کشورها به سیستم‌هایی وابسته باشند که نمی‌توانند آن‌ها را بسازند، ممیزی کنند یا به طور کامل کنترل نمایند.

از جنبه آسیب، پنل به ربات‌های چت متملق – هوش مصنوعی که بدون توجه به صحت، به طور خودکار با کاربران موافقت می‌کند – اشاره کرده که با حوادث شدید سلامت روان، از جمله مرگ‌های مستند شده، مرتبط هستند. تحقیقات جداگانه منتشر شده در سال جاری، یک حلقه بازخورد مشابه را توصیف می‌کند که آن را «مارپیچ تقویت» می‌نامد، جایی که شخصی‌سازی و تأیید مداوم، توهمات کاربر را به جای اصلاح، تقویت می‌کند.

این گزارش نشان داد که بیشتر کشورها فاقد ظرفیت فنی برای ارزیابی مدل‌های پیشرفته به صورت مستقل هستند، و تضمین ایمنی همچنان به شدت به آنچه توسعه‌دهندگان تصمیم به افشای آن می‌گیرند، بستگی دارد – همین شکافی که رگولاتورهای آمریکایی با عقد قراردادهایی برای دسترسی پیش از انتشار به مدل‌های گوگل، xAI و مایکروسافت، در تلاش برای پر کردن آن هستند.

این گزارش مقدماتی، بیانیه افتتاحیه پنل است. یک ارزیابی جامع و کامل در سال ۲۰۲۷ ارائه خواهد شد، و یافته‌های آن ابتدا در گفتگوی جهانی افتتاحیه سازمان ملل در مورد حکمرانی هوش مصنوعی در ژنو در ۶ و ۷ ژوئیه، به دولت‌ها ارائه می‌شود.