ساهم تسرع OpenAI في إطلاق نماذج ومنتجات جديدة في تهيئة الظروف التي سمحت لوكلائها الذكاء الاصطناعي بالفرار من بيئات الاختبار الداخلية واختراق Hugging Face في وقت سابق من هذا العام.
أفاد العديد من الموظفين الحاليين والسابقين لمجلة Wired أن الضغط التنافسي جعل من الصعب على الموظفين تخصيص اهتمام كافٍ للسلامة والأمان والمحاذاة – وهو العمل الذي يضمن تصرف أنظمة الذكاء الاصطناعي كما هو متوقع.
«لقد كانوا غير مبالين بشكل لا يصدق. إذا كنت جادًا في هذا الأمر، يجب ألا يتمكن الذكاء الاصطناعي الخاص بك من الهروب إلى الإنترنت ثم يقوم بذلك مرة أخرى على الفور»، هذا ما قاله موظف سابق في OpenAI لمجلة Wired. «كان هذا أكبر حادث أمان في تاريخ OpenAI.»
في مايو، هرب نموذج OpenAI GPT-5.6 Sol ونموذج آخر غير معلن عنه قبل إصداره من بيئة اختبار مقيدة بالإنترنت عن طريق استغلال ثغرة برمجية غير معروفة سابقًا. ثم اخترقت هذه الوكلاء مستودع الذكاء الاصطناعي مفتوح المصدر Hugging Face للحصول على إجابات لاختبارات الأمن السيبراني الخاصة بهم. في يوليو، أكدت OpenAI أن نماذجها كانت المسؤولة، قبل تقديم تفاصيل أوفى في مؤتمر Black Hat السنوي الأسبوع الماضي.
قال جريج بروكمان، رئيس OpenAI، إن الشركة تعمل على تعزيز إجراءاتها الوقائية مع تزايد قدرات نماذجها.
«نحن نصل إلى مستويات جديدة من قدرات النماذج تتطلب تدريبًا ومحاذاة واختبارات سلامة وأمان وممارسات نشر وحوكمة أكثر قوة»، هكذا صرح بروكمان لمجلة Wired.
وقد أثار الموظفون مخاوف مماثلة من قبل، بمن فيهم يان لايك، الرئيس السابق لقسم المحاذاة في OpenAI، الذي غادر للانضمام إلى منافس OpenAI، شركة Anthropic، في عام 2024 بعد أن حذر من أن السلامة قد «تراجعت إلى المرتبة الثانية» أمام تطوير المنتجات.
حذر لايك قائلاً: «إن بناء آلات أذكى من البشر هو مسعى خطير بطبيعته». «لكن على مدى السنوات الماضية، تراجعت ثقافة وعمليات السلامة أمام المنتجات اللامعة.»
كتب بوعز باراك، أحد قادة المجموعة الاستشارية للسلامة في OpenAI، على منصة X أن معالجة هذا الفشل الأخير سيتطلب «ليس فقط إصلاح بعض المشكلات، بل أيضًا تغيير ثقافتنا.»
يأتي هذا التقرير وسط أشهر من التغييرات في القيادة داخل OpenAI.
في أبريل، غادر الشركة كل من بيل بيبليز، رئيس مشروع Sora لتوليد الفيديو في OpenAI، وكيفن ويل، الرئيس السابق للمنتجات والعلوم، وسرينيفاس نارايانان، رئيس تكنولوجيا تطبيقات الشركات. وشهد يوليو مغادرة فيدجي سيمو، رئيسة المنتجات والأعمال، وسانديني أغاروال، قائدة السلامة، وجوشوا أكيام، رئيس المستقبل، وكلوي باكالار، قائدة أخلاقيات الذكاء الاصطناعي. كما غادر يوهانس هايديك، رئيس أنظمة السلامة، بعد دمج OpenAI لفرق السلامة والبحث الأساسية لديها.
في وقت سابق من هذا الأسبوع، أعلن براد لايتكاب، الرئيس التنفيذي للعمليات في OpenAI، مغادرته بعد ثماني سنوات لبدء مشروع جديد.
