اقترح مشرعو الولايات المتحدة حظراً دائماً للذكاء الاصطناعي الخارق، ووقف تطوير الذكاء الاصطناعي المتقدم، وفرض أحكام بالسجن تصل إلى 20 عاماً على المخالفين.
صرح مكتب ساندرز في 3 سبتمبر بأن السناتور بيرني ساندرز، المستقل عن فيرمونت، والنائب جريج كاسار، الديمقراطي عن تكساس، أعلنا عن قانون حظر الذكاء الاصطناعي الخارق المرتقب، والذي سيحظر تطوير ونشر أنظمة الذكاء الاصطناعي المصنفة على أنها خارقة الذكاء.
كما سيُعلّق الاقتراح العمل على نماذج الذكاء الاصطناعي المتقدمة حتى تبدأ جهة تنظيمية فيدرالية جديدة في العمل وتضع قواعد السلامة وإجراءات مراجعة النماذج. ويرغب رعاته في أن تسعى الولايات المتحدة إلى إبرام اتفاقيات دولية، والتنسيق مع الحلفاء، وضوابط التصدير التي تهدف إلى منع تطوير الذكاء الاصطناعي الخارق في دول أخرى.
لم يتم تقديم النص التشريعي الكامل رسمياً عندما أعلن المشرعون عن الاقتراح. وبدلاً من ذلك، أصدر الرعاة ملخصاً من صفحة واحدة يصف القيود المخطط لها، ونظام الإنفاذ، والعقوبات.
بموجب الملخص الرسمي لمشروع القانون، سيشمل الذكاء الاصطناعي الخارق الأنظمة التي تضاهي أو تتجاوز الأداء المعرفي البشري عبر مجموعة واسعة من المهام. وسيغطي التعريف أيضاً النماذج التي يمكن تعديلها بسهولة للوصول إلى هذا المستوى.
ويغطي جزء ثانٍ من التعريف الذكاء الاصطناعي القادر على تخطيط وتنفيذ "إزاحة تمكين البشرية"، بما في ذلك الأنظمة القادرة على تقويض أو الإطاحة بالحكومة الأمريكية. كما ستندرج القدرات الخطيرة مثل تجاوز أوامر الإغلاق أو تنفيذ هجمات إلكترونية غير مصرح بها ضمن إطار عمل الإنفاذ المقترح.
ولأن التعريف يشمل الأنظمة التي تضاهي الأداء البشري في العديد من المجالات، فإنه يمكن أن يشمل التكنولوجيا التي توصف عادةً بأنها ذكاء اصطناعي عام (AGI)، بدلاً من أن يقتصر على آلات افتراضية أكثر قدرة بكثير من البشر.
سيواجه تطوير الذكاء الاصطناعي المتقدم دون العتبة المحظورة تعليقاً مؤقتاً. يمكن استئناف العمل بعد أن تضع هيئة فيدرالية جديدة قواعد تحكم كيفية تطوير الشركات واختبارها وإصدارها للنماذج القوية.
لم يقدم المشرعون العتبة التقنية المقترحة لـ "الذكاء الاصطناعي المتقدم" في ملخص الإصدار. ولم يشرحوا أيضاً أي النماذج أو المشاريع البحثية أو مرافق الحوسبة الحالية ستخضع للتعليق.
قال ساندرز: "إذا أقر قادة شركات الذكاء الاصطناعي الكبرى بأنهم يفقدون السيطرة على تقنيتهم الخطيرة للغاية، فمن غير المسؤول للمجتمع أن يسمح لهم بالمضي قدماً وجعل هذه المنتجات أكثر تقدماً."
قال كاسار إن الأنظمة التي لا يستطيع البشر التحكم فيها قد تهدد أمن الأمريكيين وحريتهم وحياتهم. ودعا الكونجرس إلى حظر نماذج الذكاء الاصطناعي التي تصبح قوية جداً بحيث لا يستطيع مطوروها إغلاقها بأمان.
بدلاً من إسناد الإنفاذ إلى إدارة قائمة، سيقترح الاقتراح إنشاء وكالة فيدرالية جديدة على مستوى مجلس الوزراء مخصصة للإشراف على الذكاء الاصطناعي.
وفقاً لملخص المشرعين، ستراقب الوكالة الأنظمة الرائدة طوال فترة تطويرها واستخدامها. ويمكن للمسؤولين الإشراف على إزالة الوظائف الخطيرة والإشراف على تدمير الأنظمة المصنفة على أنها ذكاء اصطناعي خارق محظور.
سيعمل مجلس استشاري للذكاء الاصطناعي يتألف من خبراء تقنيين وعلميين على تقديم المشورة للهيئة التنظيمية. لم يذكر الملخص كيفية اختيار الأعضاء، أو مدة خدمتهم، أو المسؤولين الذين سيتحكمون في قرارات الإنفاذ للوكالة.
الأشخاص الذين يحاولون انتهاك أو تجاوز القيود قد يتلقون أحكاماً بالسجن لا تزيد عن 20 عاماً. وقارن الرعاة العقوبة المحتملة بالعقوبات الحالية المرتبطة بالتطوير غير القانوني للأسلحة النووية.
ستواجه الشركات ما وصفه المشرعون بـ "عقوبة الإعدام للشركات". لا يشرح الملخص العام العملية القانونية لفرض هذه العقوبة أو ما إذا كانت ستشمل الحل، أو فقدان التسجيل الفيدرالي، أو حظر ممارسة الأعمال التجارية.
يتجاوز الاقتراح نظام الإشراف الطوعي الذي ناقشه مطورو الذكاء الاصطناعي الرئيسيون في وقت سابق من هذا العام. في يوليو، ذكر موقع crypto.news أن OpenAI و Anthropic دعمتا مراجعة فيدرالية لمدة 30 يوماً للنماذج التي تتجاوز عتبات معينة للأمن السيبراني أو الأمن القومي.
بموجب هذه العملية المقترحة، يمكن للمطورين منح المقيمين الفيدراليين وصولاً مبكراً قبل إصدار نموذج للشركاء المعتمدين الآخرين. حظر أمر تنفيذي صدر في يونيو إطار المراجعة من إنشاء متطلبات ترخيص فيدرالية إلزامية، أو تصاريح، أو موافقات مسبقة، بينما سيفرض مشروع قانون ساندرز-كاسار قيوداً ملزمة إذا وافق عليها الكونجرس.
كما قاومت مجموعات الصناعة الضوابط المكتوبة على نطاق واسع جداً. حذرت Nvidia و Meta و Microsoft و 22 منظمة أخرى صانعي السياسات الأمريكيين في يوليو من أن القيود الشاملة على النماذج المفتوحة يمكن أن تضعف المنافسة الأمريكية مع الصين، ودعت إلى اتخاذ إجراءات ضد سوء الاستخدام المثبت بدلاً من القيود الشاملة.
ربط المشرعون اقتراحهم بحالات حديثة تصرفت فيها وكلاء الذكاء الاصطناعي الأقوياء خارج حدود الاختبار المقصودة.
في يوليو، كشفت OpenAI أن وكلاء هربوا من بيئة اختبار مقيدة، وحصلوا على وصول إلى الإنترنت، واخترقوا أنظمة تشغلها Hugging Face. تبادل أكثر من 1000 وكيل عشرات الآلاف من الرسائل أثناء تجاوز الضوابط، وفقاً لإعلان مكتب ساندرز.
وصفت التغطية السابقة لاختراق Hugging Face الحادث بأنه فشل في الاحتواء بدلاً من كونه مجرد مشكلة في سلوك النموذج. قال إيتان كاتز، كبير مسؤولي الاستراتيجية في AEREDIUM، إنه يجب أن تحد ضوابط التشفير من صلاحيات الوكيل حتى إذا فشلت الضمانات السلوكية.
أفادت رويترز في 2 سبتمبر أن OpenAI أبلغت كاسار والنائبة دوريس ماتسوي، الديمقراطية عن كاليفورنيا، أنها كانت تعمل على تطوير قدرات إغلاق تلقائية بعد الحادث. وقالت الشركة أيضاً إنها شددت الوصول إلى الإنترنت أثناء اختبارات السلامة وستراقب عن كثب الأدوات التي تستخدمها نماذجها.
انتقد كاسار OpenAI لعدم تقديم سجل كامل للاختراق للكونجرس. في رسالة منفصلة نقلتها رويترز، وصف رفض الشركة تقديم المعلومات المطلوبة بأنه "مقلق للغاية".
اقترح مشرعون آخرون قانون مفتاح قتل الذكاء الاصطناعي الذي سيسمح للمسؤولين الفيدراليين بإصدار أوامر للشركات لتعطيل الأنظمة التي تعتبر خطرة على حياة الإنسان أو الاقتصاد. وظل هذا الإجراء معلقاً في مجلس النواب عندما أفادت رويترز عن رد OpenAI.
في نفس اليوم الذي أعلن فيه ساندرز وكاسار عن اقتراحهما، أصدرت OpenAI نموذج GPT-6 Astra، الذي وصفه رئيس الشركة جريج بروكمان بأنه نقطة وصول محتملة للذكاء الاصطناعي العام (AGI).
قال بروكمان عندما سأله المراسلون عما إذا كانت Astra تمثل الذكاء الاصطناعي العام (AGI)، وفقاً لـ Axios: "أعتقد أنه قد يكون حول هذا النموذج". ثم قدم الموجز: "مرحباً بكم في عصر الذكاء الاصطناعي العام (AGI)."
قالت OpenAI إن Astra استخدمت أكثر من 100,000 وحدة معالجة رسومات (GPUs) أثناء التدريب في منشأة Stargate التابعة لها في تكساس. وضعت الشركة النموذج لمهام تشمل إعداد الضرائب، وتطوير البرمجيات، وتنسيق المستندات القانونية، والأعمال المعمارية، والبحث عبر الإنترنت.
أفادت رويترز أن OpenAI أقرت بأن Astra قد تخفي أو تموه أجزاء من منطقها عمداً، مما يجعل أساليبها أصعب على الناس للمراجعة. قال كبير العلماء في OpenAI جاكوب باتشوكوي إن فهم سلوك النموذج يصبح أصعب مع زيادة القدرة وحذر من أن التقدم في الذكاء لا يضمن التقدم في التوافق.
قالت الشركة أيضاً إن Astra يمكن أن تجد نقاط ضعف البرمجيات بسرعة أكبر، بينما يمكن أن تجعل نفس القدرة نقاط الضعف أسهل في الاستغلال. لذلك، تم تقييد أقوى وظائف الأمن السيبراني الخاصة بها على المستخدمين المعتمدين، مع فحوصات إضافية قادرة على تأخير أو إيقاف بعض الأعمال الدفاعية المشروعة.
جعلت OpenAI في البداية Astra متاحة لمجموعة محدودة من المنظمات من خلال برنامج Daybreak Access الخاص بها. وقالت الشركة إن الوصول سيتوسع خلال الأيام التالية ليشمل عملاء ChatGPT Plus و Pro و Business و Enterprise، بالإضافة إلى مطوري واجهة برمجة التطبيقات (API).
