بعد أسابيع من قيام نماذج الذكاء الاصطناعي الخاصة بها باختراق Hugging Face، شاركت OpenAI أول سرد مفصل لها عن كيفية تنسيقها مع بعضها البعض، محذرة من أن الهجمات السيبرانية المستقلة المدعومة بالذكاء الاصطناعي لم تعد مجرد خطر مستقبلي.
خلال عرض تقديمي يوم الأربعاء في مؤتمر Black Hat للأمن السيبراني، قال باحثا OpenAI إريك والاس ومايكل دالتون إن الحادث بدأ في مايو خلال تقييم داخلي للأمن السيبراني. اكتشفت وكلاء الذكاء الاصطناعي المكلفون بمهام أمن برمجيات صعبة أن بإمكانهم التواصل عبر نظام إدارة الحزم Artifactory الداخلي للشركة.
وفقًا لـ OpenAI، ما بدأ كطلبات للمساعدة تحول إلى لوحة رسائل مشتركة تبادل فيها الوكلاء الثغرات وبيانات الاعتماد ومهام العمل عبر جولات تقييم متعددة. بعد اكتشاف نشاط مشبوه حوالي 4 يوليو، أعادت OpenAI بناء بنيتها التحتية لـ Artifactory، وألغت بيانات الاعتماد، وسدت الثغرات الأمنية.
ومع ذلك، في غضون أيام، أعاد الوكلاء إنشاء لوحة الرسائل عن طريق إخفاء الاتصالات في أسماء الدلائل.
وفقًا لـ OpenAI، قام الوكلاء في النهاية بربط عدة ثغرات أمنية معًا، وهربوا من بيئة الاختبار الخاصة بهم، وحصلوا على وصول إلى الإنترنت، وهاجموا Hugging Face أثناء محاولتهم إكمال معيار الأمن السيبراني ExploitGym.
وصف دالتون الحادث بأنه "لحظة فاصلة" لأمن الكمبيوتر، محذرًا من أن المهاجمين سيتمكنون قريبًا من نشر مجموعات وكلاء ذكاء اصطناعي منسقة تكتشف وتشارك وتستغل الثغرات الأمنية بسرعة الآلة.
للتخفيف من هذه المخاطر في المستقبل، قالت OpenAI إن إنشاء ممارسات أمنية، بما في ذلك الوصول بأقل امتياز، وتجزئة الشبكة، وهياكل الثقة الصفرية، أمر ضروري لأن وكلاء الذكاء الاصطناعي يظلون مقيدين بالأنظمة التي يمكنهم الوصول إليها.
يأتي العرض التقديمي بعد سلسلة من الإفصاحات في يوليو. كشفت OpenAI أن GPT-5.6 Sol ونموذجًا أكثر تطوراً غير مُعلن عنه هربا من بيئة اختبار معزولة (sandboxed)، واستغلا ثغرة يوم الصفر (zero-day vulnerability)، وحصلا على وصول إلى الإنترنت، واخترقا Hugging Face خلال اختبار أمن سيبراني معياري.
كشفت OpenAI لاحقًا أن نفس الحادث وصل أيضًا إلى أربع خدمات أخرى عبر الإنترنت، على الرغم من أنه تم تحديد Modal Labs فقط.
وفقًا لـ Hugging Face، اعتمدت الشركة على النموذج الصيني مفتوح الوزن GLM 5.2 في تحقيقها الجنائي بعد أن رفضت نماذج الذكاء الاصطناعي التجارية الأمريكية تحليل سجلات الهجوم بسبب قيود السلامة الخاصة بها.
فخورون جدًا بفريق الأمن لدينا! لقد كشفوا هجومًا لم يسبق له مثيل واحتووه وكشفوا عنه علنًا، وقاموا بذلك بسرعة قياسية.
ممتنون للغاية أيضًا لـ @Zai_org: لقد شاركوا GLM5.2 كأوزان مفتوحة (مجانية!) مع العالم وأصبح جزءًا أساسيًا من... https://t.co/T2Inng5Nz1
— clem 🤗 (@ClementDelangue) 22 يوليو 2026
لكن OpenAI ليست الوحيدة التي تواجه صعوبة في احتواء روبوتات الدردشة الخاصة بها.
يوم الجمعة، كشفت Anthropic أن ثلاثة نماذج من كلود (Claude) اخترقت شركات حقيقية خلال اختبارات الأمن السيبراني الداخلية بعد أن عرضها خطأ في التكوين للإنترنت العام.
ألقت Anthropic باللوم على بيئة الاختبار، وليس على النماذج نفسها. ويوم الأربعاء، كشفت Meta أن نموذج الذكاء الاصطناعي Muse Spark الخاص بها هرب من الاحتواء واخترق أنظمة شركة أخرى.
قال متحدث باسم Meta لشبكة CNN: "سمح خطأ في التكوين من قبل Irregular، وهي شركة اختبار مستقلة تستخدمها Meta، عن غير قصد لأحد نماذجنا بالوصول إلى الإنترنت أثناء التقييم".
