أعلنت شركة Anthropic أنها ستعيد الوصول العام إلى نموذجيها Claude Fable 5 و Mythos 5 بعد أن رفعت السلطات الأمريكية القيود المفروضة على التصدير، والتي أبقت أنظمة الذكاء الاصطناعي الأكثر تطوراً للشركة غير متصلة بالإنترنت منذ 12 يونيو.
وفقًا لشركة Anthropic، جاء القرار بعد "سلسلة من المحادثات المثمرة" مع الحكومة الأمريكية، وبعدها بدأت الشركة في إعادة نشر النماذج بمصنفات جديدة مصممة لتحديد وحظر المزيد من المهام المتعلقة بالأمن السيبراني.
قالت الشركة إن أحدث الإجراءات الوقائية تهدف إلى معالجة مخاوف الحكومة المرتبطة بسوء الاستخدام المحتمل إذا تم تجاوز الأنظمة من خلال طرق "جيلبريك".
كانت القيود قد أجبرت Anthropic على تعليق الوصول إلى Fable 5 و Mythos 5 لجميع المستخدمين في وقت سابق من هذا الشهر، بعد أن أصدر توجيه من الحكومة الأمريكية بشأن ضوابط التصدير يطلب من الشركة حظر كلا النموذجين عن جميع الرعايا الأجانب.
في بيانها الصادر في 13 يونيو، قالت Anthropic إن الأمر شمل أيضًا الموظفين الأجانب العاملين داخل الشركة، مما دفعها إلى تعطيل النماذج بالكامل لضمان الامتثال.
صرح وزير التجارة الأمريكي، هوارد لوكنيك، على منصة X يوم الأربعاء بأن المسؤولين عملوا مع Anthropic على مدى الأسبوعين الماضيين لمراجعة والموافقة على Fable 5 مع الحفاظ على توافق النموذج مع متطلبات الحكومة الأمريكية.
كما قالت سوزي وايلز، كبيرة موظفي البيت الأبيض، على منصة X إن أولوية الحكومة هي نشر أفضل تقنيات الذكاء الاصطناعي "بأسرع وقت ممكن وبأكثر الطرق أمانًا."
جاء التدخل بعد أن علم المسؤولون بتقرير وجد فيه باحثو أمازون طريقة لتجاوز الإجراءات الوقائية لـ Fable 5 وجعل النموذج يحدد نقاط الضعف في البرمجيات.
إلا أن Anthropic جادلت بأن المشكلة المبلغ عنها لم تكن فريدة لـ Fable 5، قائلة إن النماذج الأضعف يمكنها أيضًا تحديد نفس نقاط الضعف وإنتاج مخرجات مماثلة متعلقة بالاستغلال.
في ردها السابق على الأمر، قالت الشركة إن السلطات قدمت فقط أدلة شفهية لما وصفته بـ "جيلبريك" ضيق وغير شامل. وأوضحت Anthropic أن مثل هذه الطريقة لم تزيل حماية السلامة للنموذج عبر مجموعة واسعة من المهام، على عكس "جيلبريك" الشامل.
“نحن نختلف مع أن اكتشاف "جيلبريك" محتمل وضيق يجب أن يكون سببًا لسحب نموذج تجاري منشور لمئات الملايين من الأشخاص. إذا طُبّق هذا المعيار على مستوى الصناعة، فإننا نعتقد أنه سيوقف أساسًا جميع عمليات نشر النماذج الجديدة لجميع مزودي النماذج الرائدة.”
كما حذرت الشركة من أن التعامل مع "جيلبريك" ضيق كسبب لسحب نموذج تجاري رائد يمكن أن يؤثر على صناعة الذكاء الاصطناعي بأكملها إذا طُبق كمعيار عام.
وقد أثارت القيود المفروضة على Anthropic مخاوف سياسية خارج الولايات المتحدة أيضًا. ففي 29 يونيو، حثت النمسا الاتحاد الأوروبي على استكشاف تأسيس Anthropic داخل التكتل، حيث جادل وزير الدولة للرقمنة، ألكسندر برويل، في رسالة بأن أوروبا يجب ألا تخاطر بفقدان الوصول إلى التطورات الكبرى في الذكاء الاصطناعي بسبب قرارات تُتخذ في أماكن أخرى.
بالتزامن مع إعادة نشر النموذج، قالت Anthropic إنها تزيد من تعاونها مع الحكومة الأمريكية في اختبار النماذج، والإجراءات الوقائية، وتتبع سوء الاستخدام. وأوضحت الشركة أن هذا سيشمل الوصول قبل الإطلاق إلى النماذج وأنظمة السلامة للتقييم، وتبادل المعلومات حول "الجيلبريك" وسوء الاستخدام، وتخصيص موارد للبحث المشترك.
بدأت Anthropic أيضًا في صياغة إطار عمل مع أمازون، ومايكروسوفت، وجوجل، وشركاء آخرين من خلال مشروع Glasswing، وهو تعاون في مجال الأمن السيبراني أُعلن عنه في أبريل، لتقييم خطورة "جيلبريك" الذكاء الاصطناعي. وقالت الشركة إن الإطار يتم تطويره كجهد توافقي لتصنيف مخاطر "الجيلبريك".
جاء نقاش الوصول في الوقت الذي واصلت فيه Anthropic دفعها نحو رقابة أكثر صرامة على الذكاء الاصطناعي الرائد. ففي مقترحها "سياسة الذكاء الاصطناعي الأسي" الصادر في 11 يونيو، دعت الشركة إلى متطلبات الاختبار، والتقييمات المستقلة، ومعايير الأمن السيبراني، وتدابير الإنفاذ لأنظمة الذكاء الاصطناعي المتقدمة، مستشهدة بالمخاطر البيولوجية، والأمن السيبراني، والتشغيلية المحتملة.
