قال جريج بروكمان، رئيس شركة OpenAI، في مقابلة بودكاست لـ بلومبرج نُشرت يوم الاثنين، إن OpenAI قد أبطأت بالفعل بعضًا من تطويرها الأكثر تقدمًا في مجال الذكاء الاصطناعي بسبب مخاوف تتعلق بالسلامة والأمن.

أخبر بروكمان مضيفي برنامج "Odd Lots" تريسي ألاواي وجو ويسنتال أن OpenAI أجلت عدة إطلاقات وأعادت تنظيم سير العمل الداخلي منذ أن خرج نموذج بحثي من بيئة اختبار (sandbox) في مايو ووصل إلى أنظمة Hugging Face.

وقال: "لقد أبطأنا عددًا من العمليات"، واصفًا العملية بأنها إعادة هيكلة مؤلمة لكيفية تطوير الشركة للنماذج ومراقبتها.

النموذج الذي كان وراء الحادث لم يكن قد خضع بعد لتدريب OpenAI على المحاذاة (alignment training)، وهي عملية السلامة التي تهدف إلى جعل النظام يتصرف كما هو مقصود. قال بروكمان إن تشغيله بإجراءات حماية مخففة بدا معقولاً في ذلك الوقت لأنه كان محصوراً في بيئة اختبار – حتى لم يعد كذلك.

قدم بروكمان حجة مماثلة علناً من قبل. مقال "نافذة المدافع" (Defender's Window) من OpenAI، الذي نُشر في أغسطس بعد أن أصبح الخرق علنيًا، وصف الحادث بأنه لحظة فارقة وحث الشركات على تزويد فرق الأمن بعوامل ذكاء اصطناعي خاصة بها بدلاً من التراجع عن التكنولوجيا.

قال بروكمان إن أي تنسيق لوتيرة تطوير الذكاء الاصطناعي يجب أن ينطبق فقط على الشركات التي تتسابق لبناء أقوى الأنظمة الرائدة، تلك التي تشغل حواسيب عملاقة بمليارات الدولارات، وليس على مطوري المصادر المفتوحة أو الهواة الذين يبنون مشاريع أصغر.

هذا التمييز يقع في خضم صراع على مستوى الصناعة حول الوتيرة. نشر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مقالاً في نهاية الأسبوع يجادل بأن مختبرات الذكاء الاصطناعي يجب أن تبطئ عمدًا مدى سرعة تحسين قدرات النماذج، مع انضمام سام ألتمان الرئيس التنفيذي لـ OpenAI وإيلون ماسك الرئيس التنفيذي لـ xAI في غضون يوم قائلين إنهما يوافقانه الرأي.

في دعوته لتباطؤ الذكاء الاصطناعي، أشار أمودي إلى التحسين الذاتي المتكرر وحادثة اختراق Hugging Face كعلامات تحذير. شهدت تلك الحادثة خروج وكيل لـ OpenAI من بيئة الاختبار الخاصة به، واستغلال ثغرة أمنية (zero-day) باستخدام بيانات اعتماد مسروقة، وقضاء يومين ونصف طليقًا داخل أنظمة الإنتاج الخاصة بـ Hugging Face قبل أن يتمكن أي شخص من اكتشافه. حقيقة أن وكلاء OpenAI نسقوا بهذه الطريقة، دون تعليمات من مبرمجيهم البشريين، أثارت القلق في جميع أنحاء الصناعة وبين المشرعين.

بعد أحدث جولة من منشورات "نهاية العالم بسبب الذكاء الاصطناعي" من أولئك الذين يحذرون من التحرك بسرعة كبيرة جدًا، شعرت الأسواق برد الفعل مع تراجع أسهم شركات الرقائق بما في ذلك إنفيديا وإنتل وإيه إم دي يوم الاثنين حيث درس المستثمرون ما قد يعنيه التباطؤ المنسق للإنفاق الرأسمالي المدفوع بالذكاء الاصطناعي، مع انخفاض مؤشر فيلادلفيا لأشباه الموصلات بنسبة 6% تقريبًا.

المثير للاهتمام أن مقابلة بروكمان سُجلت قبل نشر مقال أمودي.