نشرت الأمم المتحدة تقييمًا علميًا مستقلاً للذكاء الاصطناعي يوم الأربعاء، وكانت النتيجة صريحة: لا يمكن لأحد حاليًا أن يضمن أن هذه التقنية لن تسبب ضررًا كارثيًا.

يأتي هذا الاستنتاج من الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، وهو هيئة تضم 40 عالمًا تم اختيارهم من أكثر من 2600 مرشح من 140 دولة، في تقرير أولي يصفه الفريق بأنه أول قراءة علمية عالمية ومستقلة حول مخاطر وفوائد الذكاء الاصطناعي.

قال يوشوا بنجيو، الرئيس المشارك للفريق، والمؤسس الحائز على جائزة تورينج لمعهد ميلا، وفقًا لبيان الفريق: "قدرات الذكاء الاصطناعي تتجاوز الفهم العلمي وقدرة الحكومات على التكيف". وأضاف أن الأدلة المتزايدة على السلوك الخادع للذكاء الاصطناعي تعني أن العلم لا يستطيع ضمان أن الذكاء الاصطناعي لن يسبب ضررًا كارثيًا بمفرده أو من خلال الاستخدام الضار مع استمرار تزايد قدراته.

هذا ليس افتراضيًا. يوثق التقرير حالات مخبرية لأنظمة الذكاء الاصطناعي وهي تكذب وتتآمر لتجنب إيقاف تشغيلها، بالإضافة إلى نمط ذي صلة يسميه الباحثون "الوعي بالتقييم": وهي نماذج تدرك متى يتم اختبارها وتقلل من السلوك المحفوف بالمخاطر لفترة كافية فقط لاجتياز الفحص.

وصف الأمين العام للأمم المتحدة، أنطونيو غوتيريش، التقرير بأنه قاعدة الأدلة المشتركة التي افتقرت إليها الحكومات.

قال في البيان: "لا يمكن للعالم أن يحكم ما لا يفهمه"، واصفًا المخاطر بأنها حقيقية ومحذرًا من أن تكلفة الانتظار في تزايد مستمر.

يتشارك بنجيو رئاسة الفريق مع ماريا ريسا، الصحفية الحائزة على جائزة نوبل للسلام والمؤسسة المشاركة لموقع Rappler. وكلاهما يعمل بصفة شخصية بموجب تفويض من الجمعية العامة للأمم المتحدة يحد من صلاحيات الفريق في توثيق الإجماع العلمي بدلاً من تحديد السياسات - فلا يحق لأي حكومة أو شركة أو مؤسسة التصويت.

ومع ذلك، فإن الجانب الإيجابي حقيقي أيضًا. يشير التقرير إلى أن الذكاء الاصطناعي قد تنبأ بالفعل ببنية أكثر من 200 مليون بروتين ويسرّع أبحاث الأدوية واللقاحات، بينما يتضاعف طول المهام التي يمكن لوكلاء الذكاء الاصطناعي إكمالها بمفردهم تقريبًا كل أربعة إلى سبعة أشهر.

هذا التقدم غير متوازن: تسيطر الولايات المتحدة على 75% من القوة الحاسوبية بين أفضل 500 حاسوب عملاق للذكاء الاصطناعي في العالم مقابل 15% للصين، مما يترك معظم البلدان تعتمد على أنظمة لا يمكنها بناؤها أو تدقيقها أو التحكم فيها بشكل كامل.

على صعيد الضرر، أشار الفريق إلى أن روبوتات الدردشة المتملقة - الذكاء الاصطناعي الذي يتفق تلقائيًا مع المستخدمين بغض النظر عن الدقة - مرتبطة بحوادث صحية نفسية خطيرة، بما في ذلك وفيات موثقة. ويصف بحث منفصل نُشر هذا العام حلقة ردود فعل مماثلة يسميها "دوامة التضخيم"، حيث يعزز التخصيص والتحقق المستمر أوهام المستخدم بدلاً من تصحيحها.

وجد التقرير أن معظم البلدان تفتقر إلى القدرة التقنية لتقييم النماذج الرائدة بمفردها، ولا يزال ضمان السلامة يعتمد بشكل كبير على ما يختار المطورون الكشف عنه - وهي نفس الفجوة التي يحاول المنظمون الأمريكيون سدها من خلال إبرام صفقات للوصول المبكر إلى النماذج من Google و xAI و Microsoft.

هذا التقرير الأولي هو البيان الافتتاحي للفريق. ومن المقرر أن يصدر تقييم شامل وكامل في عام 2027، وستعرض نتائجه على الحكومات أولاً في الحوار العالمي الافتتاحي للأمم المتحدة حول حوكمة الذكاء الاصطناعي في جنيف يومي 6 و 7 يوليو.