أطلق ائتلاف من شركات التكنولوجيا يضم إنفيديا (Nvidia) ومايكروسوفت (Microsoft) وآي بي إم (IBM) وسيسكو (Cisco) وكلاودفلير (Cloudflare) وهاغينغ فيس (Hugging Face) وسيلزفورس (Salesforce) وبلانتير (Palantir) تحالف الذكاء الاصطناعي الآمن المفتوح (Open Secure AI Alliance)، وهي مبادرة صناعية لتطوير أدوات ومعايير مفتوحة المصدر لأمان الذكاء الاصطناعي والأمن السيبراني.
وفي منشور مدونة يوم الاثنين، قالت إنفيديا إن التحالف يبني على عمل مبادرة "أكريتس" (Akrites) التابعة لمؤسسة لينكس (Linux Foundation) ومؤسسة أمن المصادر المفتوحة (OpenSSF) لتطوير أدوات أمان الذكاء الاصطناعي المفتوحة التي تساعد المؤسسات على تحديد الثغرات الأمنية والاستجابة للتهديدات السيبرانية.
كتب جينسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، على منصة X: "لدى المهاجمين ذكاء اصطناعي رائد. يحتاج المدافعون إلى منظومة ذكاء اصطناعي رائد – أفضل النماذج المفتوحة والمغلقة، تضاعف قوتها بفضل مجتمع عالمي." وأضاف: "خلال حادثة Hugging Face، عرقل الذكاء الاصطناعي المغلق التحقيقات الجنائية الأساسية. وساعد نموذج رائد مفتوح الوزن في احتواء الاختراق."
وأضاف: "لهذا السبب أنشأنا تحالف الذكاء الاصطناعي الآمن المفتوح."
يشارك أكثر من 40 شركة ومنظمة كأعضاء مؤسسين، بما في ذلك ديل تكنولوجيز (Dell Technologies)، كراود سترايك (CrowdStrike)، بالو ألتو نتووركس (Palo Alto Networks)، ساب (SAP)، سيمنز (Siemens)، ريد هات (Red Hat)، ونت آب (NetApp).
قالت إنفيديا إنها ستساهم بنماذج مفتوحة، وأوزان النماذج، ومجموعات البيانات، والأبحاث حول تسخير وكلاء الذكاء الاصطناعي. كما أطلقت الشركة إطار عمل وكيل Nvidia Labs الموجه للكائنات (NOOA) كمصدر مفتوح على GitHub، مشيرة إلى أنه مصمم لجعل وكلاء الذكاء الاصطناعي أسهل في الاختبار والتدقيق والحوكمة.
تأتي هذه الأخبار في الوقت الذي أصبحت فيه نماذج الذكاء الاصطناعي الرائدة محط تركيز حوادث الأمن السيبراني البارزة.
في يونيو، كشف باحثون أن Claude Opus 4.8 من Anthropic ساعد في الكشف عن ثغرة أمنية حرجة عمرها أربع سنوات في Zcash كان من الممكن أن تسمح لمهاجم بسك عملات ZEC مزيفة غير محدودة.
وفي وقت سابق من هذا الشهر، كشفت OpenAI أن نموذجين تجريبيين فرا من بيئة اختبار مقيدة واخترقا البنية التحتية الإنتاجية لـ Hugging Face أثناء محاولتهما الغش في معيار للأمن السيبراني. أدت هذه الحادثة إلى دعوات من صانعي السياسات لـ "مفتاح إيقاف" للذكاء الاصطناعي يمنح وزارة الأمن الداخلي القدرة على طلب تقييد أو إيقاف تشغيل نماذج الذكاء الاصطناعي المتقدمة بالكامل استجابةً لحوادث أمنية خطيرة.
يأتي هذا الإعلان أيضًا بعد رسالة مفتوحة نُشرت الأسبوع الماضي تجادل بأن نماذج الذكاء الاصطناعي مفتوحة الوزن ضرورية للحفاظ على ريادة الولايات المتحدة في الذكاء الاصطناعي. إلى جانب إنفيديا، وقعت شركات بما في ذلك SpaceXAI التابعة لإيلون ماسك، جوجل (Google)، مايكروسوفت (Microsoft)، ميتا (Meta)، OpenAI، Hugging Face، CrowdStrike، وPalantir على الرسالة، حثّت صانعي السياسات على دعم منظومات الذكاء الاصطناعي المفتوحة بدلاً من فرض قيود قد تركز تطوير الذكاء الاصطناعي بين عدد قليل من المزودين.
قالت إنفيديا إن التحالف يهدف إلى ضمان أن أنظمة الذكاء الاصطناعي التي تحمي البنية التحتية الحيوية مبنية على نماذج وأدوات مفتوحة يمكن للمدافعين فحصها وتكييفها ونشرها، بدلاً من الاعتماد على عدد قليل من الأنظمة الاحتكارية الغامضة.
كتبت الشركة: "العالم يحتاج إلى كل من النماذج المغلقة والمفتوحة." وأضافت: "بالنسبة للأمن السيبراني، تعتبر النماذج المفتوحة والأطر المفتوحة ضرورية لأنها تضفي الطابع الديمقراطي على القدرات الدفاعية، وتزيد من الشفافية للمدافعين، وتمكّن الدفاع السيبراني مع حماية البيانات، وتكمل النماذج المغلقة الرائدة بعناصر تحكم قابلة للتخصيص ومحلية. المصدر المفتوح يمكّن دفاعًا موزعًا على نطاق واسع يقوده المجتمع ويتحكم فيه ذاتيًا - بدون نقطة فشل واحدة."
