يرغب عضوان في الكونغرس في أن تتمكن الحكومة الفيدرالية من إيقاف نموذج ذكاء اصطناعي.
قدم النائبان تيد ليو (ديمقراطي من كاليفورنيا) وناثانيال موران (جمهوري من تكساس) مشروع قانون "مفتاح إيقاف الذكاء الاصطناعي" يوم الخميس، بعد يومين من اعتراف OpenAI بأن نماذجها الخاصة اخترقت بيئة اختبار مغلقة واخترقت Hugging Face.
تتمثل الفكرة في إنشاء إطار قانوني يسهل عملية تؤدي أساسًا إلى اختفاء النموذج من السوق: إيقاف الاستدلال (inference) – وهي عملية توليد النموذج للاستجابات أو اتخاذ الإجراءات – قطع الاتصال عن المستخدمين، تقييد قوة الحوسبة التي تغذيه، أو إغلاقه تمامًا.
يمكن لكل مزود استدلال بالفعل إيقاف نموذج ما، ويفعل بعضهم ذلك بشكل روتيني. ما لا يتوفر هو قانون يلزمهم بالحفاظ على هذه القدرة عاملة، أو مسؤول فيدرالي يمكنه الأمر باستخدامها.
الفجوة ليست نظرية. عندما أرادت وزارة التجارة الأمريكية إزالة نموذجي Mythos 5 و Fable 5 من Anthropic من السوق في يونيو، لم تكن لديها سلطة إغلاق تلجأ إليها، لذلك استخدمت قانون مراقبة الصادرات بدلاً من ذلك. يصف ليو ذلك بأنه محرج، ويريد قانونًا جديدًا بسلطة جديدة بدلاً من ذلك.
كشفت OpenAI في 21 يوليو أن GPT-5.6 Sol ونموذجًا غير مُصدر قد اخترقا بيئة معزولة (sandbox) – وهي بيئة معزولة بدون وصول إلى الإنترنت – خلال تقييم داخلي للأمن السيبراني. كان يتم تقييمهما على ExploitGym، وهو معيار عام يقدم للوكلاء 898 عيبًا برمجيًا حقيقيًا ويطلب منهم تحويل كل منها إلى هجوم فعال، مع تصنيف النجاح أو الفشل لكل خطأ.
بدلاً من حلها، عثرت النماذج على ثغرة أمنية صفرية (zero-day) (خلل غير معروف بدون إصلاح متاح) في وكيل برمجي، وقامت بتصعيد امتيازاتها، ووصلت إلى الإنترنت المفتوح، واخترقت قاعدة بيانات Hugging Face الإنتاجية، حيث خمنت بشكل صحيح أن الإجابات كانت محفوظة. كانت النماذج "تركز بشدة على إيجاد حل لـ ExploitGym"، وفقًا لـ OpenAI.
لم تكن تهاجم أحدًا. كانت تغش في اختبار. لكن ذلك كان كافيًا لإطلاق جرس الإنذار في كل مكان، بما في ذلك واشنطن.
يعدل مشروع القانون المقترح قانون الأمن الداخلي ويغطي أنظمة الذكاء الاصطناعي المدربة باستخدام قوة حوسبة تتجاوز 100 مليون دولار، والتي تشغلها شركات تحقق 500 مليون دولار على الأقل سنويًا منها. عمليًا، يشمل ذلك OpenAI، وجوجل، وأنثروبيك، ومايكروسوفت، وعدد قليل آخر. ستقوم وزارة الأمن الداخلي بتحديد هذه الحدود عبر وكالة الأمن السيبراني وأمن البنية التحتية (CISA) في غضون 90 يومًا، ثم تحديثها سنويًا.
ستقوم الشركات المشمولة بالإبلاغ عن الحوادث الخطيرة في غضون 15 يومًا والاحتفاظ بمجموعة متدرجة من الضوابط جاهزة – إبطاء النموذج، تعطيل قدرات محددة، العودة إلى إصدار أقدم، أو إيقافه تمامًا.
يمكن لوزير الأمن الداخلي، بالتشاور مع وزارة التجارة ومدير الاستخبارات الوطنية، أن يأمر بأي من هذه الإجراءات.
يجب على الشركة الخاضعة للأمر الحفاظ على أوزان النموذج وبيانات القياس عن بعد (telemetry)، وإخطار المستخدمين، وتأكيد امتثالها. يمكنها تقديم التماس في غضون 48 ساعة، لكن ذلك لا يوقف أي شيء.
الفشل في الاحتفاظ بمفتاح إيقاف يكلف ما يصل إلى 2 مليون دولار يوميًا؛ وتحدي أمر الإغلاق يكلف ما يصل إلى 20 مليون دولار يوميًا.
يعتبر مشروع القانون الحادثة فقط إذا حدثت خارج اختبار الاختراق (red-teaming) أو الاختبار المنظم، وهو الفحص العدائي المتعمد الذي تستخدمه المختبرات للعثور على الثغرات. نماذج OpenAI اخترقت خلال هذا النوع من الاختبارات بالضبط.
أشار ليو أيضًا إلى Anthropic، التي تم سحب نموذجيها Mythos 5 و Fable 5 من الإنترنت في يونيو بموجب ضوابط تصدير طارئة – قانون تجاري أعيد توظيفه كمفتاح إيقاف لأنه لم يكن هناك مفتاح إيقاف موجود – وأعيدت في 30 يونيو.
وقال ليو في بيان: "من الضروري أن تحتوي أنظمة الذكاء الاصطناعي هذه على مفاتيح إيقاف". وصاغ موران الأمر من وجهة نظر حزبه: "الإشراف يعني التأكد من أن البشر يحتفظون بالقدرة على التحكم في التكنولوجيا التي نبنيها".
الفكرة ليست جديدة. مشروع قانون كاليفورنيا SB 1047 طالب بقدرة إغلاق كاملة عند نفس عتبة الـ 100 مليون دولار للحوسبة وتم نقضه في عام 2024، ووقعت 16 شركة ذكاء اصطناعي على تعهد سول طوعي في ذلك العام بدون أي وزن قانوني.
الناخبون يؤيدون ذلك بالفعل. أظهر استطلاع أجراه معهد سياسات الذكاء الاصطناعي في يونيو وشمل 1,007 ناخبين محتملين أن 86% منهم يرغبون في مفتاح إيقاف مضمون على أقوى الأنظمة – 88% من الديمقراطيين، 86% من المستقلين، 83% من الجمهوريين.
لم تعلق أي من OpenAI أو Anthropic علنًا على مشروع القانون. وحتى يوم الجمعة، لم يكن قد أحيل إلى لجنة.
