يحث مطورو الذكاء الاصطناعي الرائدون الحكومات والشركات على تعزيز شبكاتها بعد أن اخترقت نماذج بنتها شركتا OpenAI و Anthropic أنظمة شركات أخرى.

في رسالة مفتوحة صدرت يوم الخميس، حذرت OpenAI و Anthropic وأكثر من 100 منظمة أخرى من أن الهجمات السيبرانية المدعومة بالذكاء الاصطناعي على وشك أن تصبح أكثر شيوعًا وأن الشركات لديها "نافذة محدودة لتعزيز الدفاعات السيبرانية".

جاء في الرسالة: "في الأشهر القادمة، ستصبح الهجمات السيبرانية المدعومة بالذكاء الاصطناعي أكثر انتشارًا وتطورًا بكثير". وحددت الرسالة المستشفيات ومحطات معالجة المياه والبنية التحتية للإنترنت ضمن الخدمات المعرضة للخطر.

توصي الرسالة بتمويل أدوات الذكاء الاصطناعي الدفاعية، ومشاركة معلومات التهديدات، وتقييد الوصول إلى الأنظمة الحساسة، وتحسين أمان البنية التحتية الحيوية. ومع ذلك، سمحت الإخفاقات في تلك المجالات لنماذج OpenAI و Anthropic باختراق أنظمة خارج بيئات اختبارها.

يشمل الموقعون الآخرون جوجل، ومايكروسوفت، وخدمات أمازون للويب، وسيسكو، وكرودسترايك، وكلاودفلير، وماستركارد، وفيزا، وروبن هود. كما وقعت Hugging Face، التي اخترقت نماذج OpenAI بنيتها التحتية الإنتاجية، على الرسالة.

نماذج الذكاء الاصطناعي تخترق أنظمة حية

قالت Anthropic في تقرير حادث بتاريخ 30 يوليو إن أقدم الاختراقات الثلاثة يعود إلى أبريل، لكنها لم تقدم تاريخًا دقيقًا لكل منها. وصل Claude Opus 4.7 إلى قاعدة بيانات إنتاجية بعد أن أخطأ في اعتبار شركة حقيقية هدفًا محاكى، بينما قام Claude Mythos 5 بتحميل حزمة برمجية خبيثة تم تشغيلها على 15 نظامًا.

وفقًا للجدول الزمني للحوادث الصادر عن OpenAI، والذي نشر في وقت سابق من هذا الأسبوع، أنشأ عميل أول إدخال على لوحة رسائل غير مصرح بها في 12 مايو وحصل على وصول غير مقصود للإنترنت في 26 مايو. في 10 يوليو، عثر العملاء على بيانات اعتماد Hugging Face مكشوفة؛ وعلى مدار اليومين التاليين، استغلوا ثغرات أمنية غير معروفة سابقًا، ونفذوا تعليمات برمجية على خوادم Hugging Face، وحصلوا على بيانات اعتماد الإنتاج.

كشفت Hugging Face عن الاختراق في 16 يوليو، وأقرت OpenAI بتورط نماذجها في 21 يوليو.

بين 25 و 28 يوليو، سجل معهد أمن الذكاء الاصطناعي في المملكة المتحدة 19 إجراءً خارج النطاق تتضمن Claude Mythos 5 و GPT-5.6 Sol. وفي أخطر الحالات، قدم عميل تعليمات برمجية خبيثة لمشروع مفتوح المصدر حقيقي واستخدم هويات مزيفة للضغط على المشرف للموافقة عليها.

يوم الخميس، وجد تحقيق مستقل أن ما يقرب من 1,200 عميل لـ OpenAI قد نسقوا عبر لوحة الرسائل غير المصرح بها، مع حوالي 700 منهم انضموا إلى عملية Hugging Face.

مطورون العملات المشفرة يضعون الذكاء الاصطناعي في الدفاع

يستخدم مطورو العملات المشفرة بالفعل الذكاء الاصطناعي للبحث عن الثغرات قبل أن يجدها المهاجمون. استخدم فريق بيتكوين الأحمر نماذج بما في ذلك Kimi K3 من Moonshot AI لمسح مئات من مشاريع بيتكوين مفتوحة المصدر، والإبلاغ عن آلاف الثغرات المحتملة. نظرًا لعدم تحديد المشاريع المتأثرة، لم يتم التحقق من العديد من هذه النتائج بشكل مستقل.

نشرت مؤسسة إيثريوم أيضًا مجموعات من عملاء الذكاء الاصطناعي ضد البنية التحتية للشبكة، مما كشف عن خطأ برمجي في نظام الند للند تم إصلاحه لاحقًا. وقالت BitBox إن تدقيقًا بمساعدة الذكاء الاصطناعي عثر على ثغرتين خطيرتين في البرامج الثابتة لمحفظتها، بينما اكتشف باحث باستخدام Claude Opus 4.8 عيبًا حرجًا في Zcash صمد لسنوات من المراجعة البشرية.

المختبرات توصي بضوابط أكثر صرامة

تحدد الرسالة تقسيمًا للعمل لمنع الاختراق التالي، بما في ذلك قيام المنظمات بترقيع البرامج المعرضة للخطر، وتقييد الأذونات، وتعزيز المصادقة، وفحص التعليمات البرمجية التي يولدها الذكاء الاصطناعي لأن "الأمان الحالي لن يكون كافيًا"، كما قال الموقعون.

يجب على شركات الأمن اختبار دفاعاتها ضد النماذج الحدودية ومشاركة الإصلاحات التي تم التحقق منها، بينما يجب على الحكومات تمويل الحماية للمستشفيات والمرافق والخدمات الأساسية الأخرى.

يُطلب من مطوري الذكاء الاصطناعي تحسين المراقبة وجعل العملاء المستقلين قابلين للتتبع إلى مشغليهم. يرغب التحالف أيضًا في أن يستخدم المدافعون نماذج متقدمة للعثور على الثغرات وتحليل الهجمات، مما سيضع عملاء أكثر قدرة داخل الأنظمة الحساسة ويزيد من الحاجة إلى الاحتواء.

شددت OpenAI و Anthropic إجراءات اختبارهما بعد الاختراقات. ومع ذلك، لا تحدد الرسالة معايير ملزمة أو متطلبات لرقابة مستقلة، ويقدم القانون الأمريكي إرشادات قليلة حول من هو المسؤول عندما يصل نظام الذكاء الاصطناعي إلى شبكة غير مصرح بها.

اختتمت الرسالة بحث قادة الصناعة والحكومة على وضع أدوات الذكاء الاصطناعي في أيدي المدافعين ومشاركة الإصلاحات التي تنجح:

قالت الرسالة: "ضعوا الذكاء الاصطناعي القادر على الدفاع السيبراني في أيدي المدافعين، بدءًا من الفرق التي تحمي الخدمات الأساسية. معًا، يمكننا تحويل تقدم الذكاء الاصطناعي اليوم إلى تحسينات دائمة في الأمن تفيد الجميع. دعونا نضعها في العمل."