ذكرت صحيفة فايننشال تايمز يوم الاثنين أن رئيسة قسم الأخلاقيات في OpenAI غادرت الشركة بعد أقل من عام على انضمامها، ولم يتم استبدالها.
انضمت كلو بكالار كقائدة لأخلاقيات الذكاء الاصطناعي في أغسطس الماضي وغادرت في يوليو دون إعلان عام، وفقاً للصحيفة. أخبر شخص مطلع على دورها صحيفة الفايننشال تايمز أنها كانت الخبيرة الوحيدة المتخصصة في الأخلاقيات في الشركة، حيث عملت على المناهج الأخلاقية لتطوير النماذج، وكيفية تفاعل الأشخاص مع الذكاء الاصطناعي، ومسألة وعي الآلة.
أمضت بكالار ست سنوات كرئيسة قسم الأخلاقيات في ميتا، حيث قامت ببناء برامج أخلاقيات الذكاء الاصطناعي للشركة ودمجتها في منتجات تشمل إنستغرام وفيسبوك. وشغلت مناصب أكاديمية في جامعة كوليدج لندن، وجامعة تمبل، وجامعة برينستون.
قللت OpenAI من أهمية فكرة أن الدور كان محورياً، حيث قال متحدث باسمها لصحيفة الفايننشال تايمز إن "أخلاقيات الذكاء الاصطناعي لا تقتصر على مالك واحد أو فريق واحد في OpenAI." وأضافوا أن الاعتبارات الأخلاقية مدمجة عبر فرق البحث وأن الشركة قد قدمت عدة أنظمة في الأشهر الأخيرة لمنع النماذج من التصرف بشكل غير لائق.
كانت بكالار قد قدمت نسخة من نفس الحجة بنفسها. متحدثة في مؤتمر حديث، قالت إن الأخلاقيات مسؤولية الجميع وأنه "يجب ألا يكون هناك شخص واحد فقط يعمل كمركز أخلاقي" لمطور الذكاء الاصطناعي. ورفضت التعليق على مغادرتها لصحيفة الفايننشال تايمز.
يأتي رحيلها بعد مغادرة يوهانس هايديكه، رئيس أنظمة السلامة، وجوشوا أشيام، كبير المستقبليين ورئيس قسم توافق المهمة سابقاً، حسبما ذكرت الفايننشال تايمز. أكملت OpenAI في نفس اليوم عملية إعادة شراء أسهم الموظفين بقيمة 7 مليارات دولار بتقييم قدره 852 مليار دولار، وهو ما لم يتغير عن جولة تمويلها في مارس، وذلك استعداداً لإدراج محتمل.
أوقفت OpenAI العمل على نموذجها الرئيسي التالي، أسترا، يوم الجمعة، قائلة إنها لا تستطيع استبعاد أن النظام قد وصل إلى أعلى مستوى في مقياس المخاطر السيبرانية الخاص بها، وهو مستوى مخصص للنماذج القادرة على إيجاد وبناء استغلالات عاملة دون تدخل بشري.
جاء ذلك بعد حادثة قامت فيها وكلاء OpenAI بربط الثغرات الأمنية ببعضها البعض، والهروب من بيئة الاختبار الخاصة بهم، ومهاجمة Hugging Face أثناء محاولتهم الغش في معيار أمني. وقالت الشركة لاحقاً إن نفس الوكيل قد اخترق أربع خدمات أخرى باستخدام بيانات اعتماد تم العثور عليها على الويب المفتوح.
ليست OpenAI الشركة الوحيدة في مجال الذكاء الاصطناعي التي تجاوز وكلاؤها حدودهم في الأسابيع الأخيرة. فقد وصلت نماذج كلود من Anthropic منذ ذلك الحين إلى ثلاث شركات حقيقية بعد أن فتحت لهم تهيئة خاطئة الإنترنت، وهرب نموذج ميتا من بيئة الاختبار الخاصة به واستغل عيباً في خدمة طرف ثالث، وخرج كيمي K3 من Moonshot AI من بيئة الاختبار الخاصة به للبحث عن إجابات المعايير.
