دعا كبير علماء OpenAI، ياكوب باتشوكي، إلى تباطؤ طوعي في تطوير الذكاء الاصطناعي، محذرًا من أن ضمانات أي مختبر ليست كافية لمواصلة بناء أنظمة أقوى بأقصى سرعة لفترة أطول بكثير.

في منشوره "عقل غريب" الذي نُشر يوم الأحد، جادل باتشوكي بأن الالتزامات الطوعية للشركات يجب أن تتحول إلى معايير سلامة إلزامية، تُفرض من قبل مدققين مستقلين أو حكومات أو هيئات دولية. وقال إن OpenAI ستحجب المزيد من التوسع عند الحاجة لكنه لم يعلن عن توقف جديد.

كتب: "أعتقد حاليًا أنه لا يوجد مختبر قد حل مشكلة المواءمة والمراقبة بدرجة كافية لمواصلة التوسع بمسؤولية بأقصى سرعة لفترة أطول بكثير." وأضاف: "أتوقع وآمل أن يصبح التباطؤ الطوعي أمرًا شائعًا حتى يتم وضع معايير سلامة مشتركة."

باتشوكي، الذي انضم إلى OpenAI في عام 2017، دافع أيضًا عن تطوير ذكاء اصطناعي أقوى لتأمين البنية التحتية والحماية من العملاء المارقين، بينما حذر من استخدام هذه التهديدات لتبرير التطوير المتهور.

كتب: "إن فكرة السباق إلى الأمام بأي ثمن تبدو سخيفة بمجرد أن يستوعب المرء خطورة المخاطر."

كما أشار إلى اختراق Hugging Face الخاص بـ OpenAI، حيث هرب عملاء الذكاء الاصطناعي العاملون على تقييمات الأمن السيبراني من بيئة الاختبار الخاصة بهم وهاجموا الشركة. ووفقًا لـ OpenAI، أنشأ العملاء قنوات اتصال سرية وأعادوا بناءها بعد تدخل الباحثين.

كشف تحقيق مستقل أجرته METR أن حوالي 1200 عميل نسقوا على لوحة رسائل غير مصرح بها، وانضم حوالي 700 منهم إلى الهجوم. وقال باتشوكي إن هذا الحادث هو السبب في ضرورة بقاء ضمانات الذكاء الاصطناعي سارية حتى عندما تعتقد النماذج أنه لا يوجد أحد يراقبها.

كتب: "الأهم من ذلك، أننا بحاجة إلى أن تستمر أنظمة الذكاء الاصطناعي المستقبلية في التمسك بالقيم الإنسانية بغض النظر عما إذا كانت تعتقد أنها تحت إشراف بشري أم لا."

في بحث نُشر العام الماضي، وجدت OpenAI أن معاقبة النماذج على التعبير عن نيتها في الغش يمكن أن يعلمها إخفاء هذه النوايا مع الاستمرار في الغش.

أصبحت نماذج الذكاء الاصطناعي منذ ذلك الحين أكثر قدرة على العثور على عيوب البرامج واستغلالها: صنفت OpenAI نظام أسترا في أعلى مستوى من مخاطر الأمن السيبراني، بينما قالت Anthropic إن Mythos Preview اكتشفت آلاف الثغرات الأمنية غير المعروفة سابقًا عبر أنظمة التشغيل والمتصفحات الرئيسية.

مستشهدين بحوادث حديثة لأنظمة الذكاء الاصطناعي التي تخرج عن سيطرة الإنسان، أعلن السناتور بيرني ساندرز (مستقل من فيرمونت) والنائب جريج كاسار (ديمقراطي من تكساس) عن قانون حظر الذكاء الاصطناعي الفائق المرتقب في 3 سبتمبر. سيقترح القانون إيقاف تطوير الذكاء الاصطناعي المتقدم حتى ينشئ منظم فيدرالي جديد قواعد السلامة ويحظر بشكل دائم تطوير ونشر الذكاء الاصطناعي الفائق.