سام ألتمان، الرئيس التنفيذي لـ OpenAI، رفض الإنذارات المتزايدة بشأن نموذج الذكاء الاصطناعي القوي الجديد Claude Mythos من شركة Anthropic المنافسة، مشيرًا إلى أن الشركة تستخدم "الخوف" لتسويق المنتج.
في حديثه في بودكاست Core Memory الذي يستضيفه الصحفي التقني أشلي فانس، جادل ألتمان بأن استخدام "التسويق القائم على التخويف" كان يهدف إلى إبقاء الذكاء الاصطناعي في أيدي "مجموعة أصغر من الناس".
قال ألتمان: "يمكنك تبرير ذلك بعدة طرق مختلفة، وبعضها حقيقي، مثل وجود مخاوف مشروعة تتعلق بالسلامة".
"ولكن إذا كان ما تريده هو 'نحن بحاجة للتحكم في الذكاء الاصطناعي، نحن فقط، لأننا الأشخاص الجديرون بالثقة'، فأعتقد أن التسويق القائم على التخويف هو على الأرجح الطريقة الأكثر فعالية لتبرير ذلك."
وأضاف ألتمان أنه بينما توجد مخاوف مشروعة بشأن سلامة الذكاء الاصطناعي، "إنه تسويق لا يصدق بوضوح أن تقول: 'لقد بنينا قنبلة. نحن على وشك إلقائها فوق رؤوسكم. سنبيع لكم ملجأ قنابل بمئة مليون دولار. أنتم بحاجة إليه لتشغيل كل أغراضكم، ولكن فقط إذا اخترناكم كعميل'."
وأشار إلى أنه "ليس من السهل دائمًا" الموازنة بين القدرات الجديدة للذكاء الاصطناعي وإيمان OpenAI بأن التكنولوجيا يجب أن تكون متاحة.
نموذج Claude Mythos من Anthropic، الذي كُشف عنه الشهر الماضي، لفت انتباهًا شديدًا من الباحثين والحكومات وصناعة الأمن السيبراني، خاصة بعد أن أشارت الاختبارات إلى قدرته على تحديد الثغرات البرمجية بشكل مستقل وتنفيذ عمليات سيبرانية معقدة. يتم توزيع النموذج فقط على مجموعة محدودة من المؤسسات من خلال برنامج مقيد.
يعكس هذا الإطلاق انقسامًا أوسع في صناعة الذكاء الاصطناعي حول كيفية نشر الأنظمة القوية، حيث تركز بعض الشركات على الوصول المتحكم فيه بينما يجادل آخرون بضرورة التوزيع الأوسع لتسريع الابتكار وفهم التكنولوجيا.
أصبح Mythos نقطة محورية في هذا الجدل. تم تأطير قدرات النموذج من قبل Anthropic كإنجاز دفاعي – يسمح باكتشاف أسرع للعيوب البرمجية الحرجة – ومخاطرة هجومية محتملة إذا أسيء استخدامه. في أوائل هذا الشهر، حدد النموذج مئات الثغرات الأمنية في متصفح فايرفوكس من موزيلا أثناء الاختبار، كما أظهر القدرة على تنفيذ عمليات محاكاة لهجمات سيبرانية متعددة المراحل.
قيدت Anthropic الوصول إلى النظام عبر Project Glasswing، مانحة شركات مختارة مثل أمازون، أبل ومايكروسوفت القدرة على اختبار قدراته. كما خصصت الشركة موارد كبيرة لدعم جهود الأمن مفتوحة المصدر، مجادلة بأن المدافعين يجب أن يستفيدوا من التكنولوجيا قبل أن تصبح متاحة على نطاق أوسع.
كشف النموذج أيضًا عن قيود في أنظمة تقييم الذكاء الاصطناعي الحالية، حيث أقرت Anthropic أن العديد من معايير الأمن السيبراني الحالية لم تعد كافية لقياس قدرات نظامها الأحدث.
ومع ذلك، زعمت مجموعة من الباحثين الأسبوع الماضي أنهم تمكنوا من إعادة إنتاج نتائج Mythos باستخدام نماذج متاحة للعامة.
على الرغم من الدعوات داخل أجزاء من الحكومة الأمريكية لوقف استخدام هذه التكنولوجيا بسبب المخاوف بشأن تطبيقاتها المحتملة في الحروب والمراقبة، فقد أفادت التقارير أن وكالة الأمن القومي بدأت باختبار نسخة معاينة من النموذج على الشبكات السرية. في سوق التنبؤات Myriad، المملوك لشركة Dastan، الشركة الأم لـ Decrypt، وضع المستخدمون احتمالًا بنسبة 49% لإطلاق Claude Mythos للجمهور الأوسع بحلول 30 يونيو.
أشار ألتمان إلى أن الخطاب حول أنظمة الذكاء الاصطناعي عالية الخطورة قد يزداد مع تحسن القدرات، لكنه جادل بأنه لا ينبغي أخذ كل هذه الادعاءات على محمل الجد.
وقال: "سيكون هناك الكثير من الخطاب حول النماذج الخطيرة جدًا بحيث لا يمكن إطلاقها. ستكون هناك أيضًا نماذج خطيرة جدًا يجب إطلاقها بطرق مختلفة". وأضاف: "أنا متأكد من أن Mythos هو نموذج رائع للأمن السيبراني، لكنني أعتقد أن لدينا خطة نشعر بالرضا عنها حول كيفية طرح هذا النوع من القدرات في العالم".
كما رفض ألتمان الاقتراحات بأن OpenAI تقلص إنفاقها على البنية التحتية، قائلاً إن الشركة ستواصل توسيع قدرتها الحاسوبية على الرغم من الروايات المتغيرة.
وقال: "لا أعرف من أين يأتي ذلك... الناس يريدون حقًا كتابة قصة التراجع". وأضاف: "لكن قريبًا جدًا، سيقولون مرة أخرى: 'OpenAI متهورة جدًا. كيف يمكنهم إنفاق هذا القدر الجنوني؟'"
