اقترح خبراء أمنيون من الولايات المتحدة والصين قواعد تمنع الذكاء الاصطناعي من شن هجمات سيبرانية مستقلة ضد أنظمة القيادة النووية أو اتخاذ قرار باستخدام الأسلحة النووية.
يحث تقرير حديث صادر عن معهد بروكينغز وجامعة فودان التي تتخذ من شنغهاي مقرًا لها، الولايات المتحدة والصين على توسيع التزامهما بالتحكم البشري في الأسلحة النووية ليشمل الاستخدامات العسكرية الأخرى للذكاء الاصطناعي، بما في ذلك الهجمات السيبرانية على أنظمة القيادة النووية.
كتب الباحثون: "يمكن للرئيسين دونالد ترامب وشي جين بينغ أن يقودا في إدارة هذه المخاطر من خلال الاتفاق على أن البشر فقط، وليس الذكاء الاصطناعي، هم من يجب أن يتخذوا قرار شن هجوم سيبراني ضد أنظمة القيادة والتحكم والاتصالات النووية (NC3) أو البنية التحتية الحيوية لبعضهم البعض."
تساعد أنظمة NC3 الحكومات على اكتشاف التهديدات، وتحديد ما إذا كانت ستستخدم الأسلحة النووية، ونقل أوامر الإطلاق، لكن الفشل في أي مرحلة يمكن أن يعطل الاتصالات، أو يسيء تفسير هجوم ما، أو يشجع على ضربة أولى، أو يؤدي إلى إطلاق عرضي أو غير مصرح به.
كتب الباحثون: "إن توسيع المبدأ المطبق على الأسلحة النووية – وهو أن الهجمات ذات التأثيرات الاستراتيجية يجب أن تعبر عن نية بشرية ويجب أن تخضع للمساءلة البشرية – لا يتطلب من واشنطن وبكين مشاركة مبادئ أخرى للأمن السيبراني أو حماية البنية التحتية."
سيتطلب الاتفاق المقترح من كلا البلدين تقليل خطر أن يؤدي الصدفة أو الخطأ البشري أو الذكاء الاصطناعي غير المتوقع أو الجهات الفاعلة غير المصرح بها إلى شن هجمات ذات عواقب استراتيجية.
يأتي النداء لضمانات على غرار الضمانات النووية كجزء من جدل متزايد حول كيفية إبطاء تطوير الذكاء الاصطناعي والحفاظ على الأنظمة المتزايدة القدرة تحت السيطرة البشرية. هذا القلق حاد بشكل خاص في المجال العسكري، حيث يمكن أن تؤدي القرارات الآلية المتخذة في غضون أجزاء من الثانية إلى تحويل تحذير خاطئ أو هجوم سيبراني إلى أزمة نووية.
تم التأكيد على هذا القلق في فبراير عندما استخدمت نماذج من OpenAI و Google و Anthropic أسلحة نووية في 95% من سيناريوهات الألعاب الحربية التي تم اختبارها، على الرغم من أن الخبراء حذروا من أن المحاكاة ربما شجعت التصعيد.
في الشهر نفسه، رفضت شركة Anthropic مطالب البنتاغون بإزالة قيود كلود على المراقبة الجماعية والأسلحة المستقلة تمامًا. أمر ترامب الوكالات الفيدرالية بالتوقف عن استخدام تكنولوجيا الشركة، لكن قاضيًا فيدراليًا حكم في 28 أغسطس بأن الإدارة انتقمت بشكل غير قانوني من Anthropic.
انتشرت دعوات ضبط النفس منذ ذلك الحين في جميع أنحاء الصناعة. في وقت سابق من هذا الشهر، حث داريو أمودي، الرئيس التنفيذي لشركة Anthropic، المطورين على إبطاء مكاسب القدرات، وحصل على دعم من سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، مالك xAI، بينما سألت OpenAI الكونغرس عما إذا كان بإمكان الشركات تنسيق التباطؤ دون انتهاك قانون مكافحة الاحتكار.
مع عدم وجود تباطؤ ملزم، يقترح مؤلفو بروكينغز قاعدة أضيق: يجب ألا يُسمح إلا للبشر بالتصريح بشن هجمات على أنظمة القيادة النووية أو استخدام الأسلحة النووية.
كتبوا: "إدارة الذكاء الاصطناعي العسكري ليست مفاوضات يمكن أن تنتظر – إنها سباق مع الزمن."
BTC
