اقترحت Anthropic أطرًا جديدة لسياسات الذكاء الاصطناعي مع اكتساب الأنظمة المتقدمة قدرات أقوى.
تريد الشركة من الحكومات وضع قواعد للنماذج الرائدة وإعداد العمال للتأثير الاقتصادي للذكاء الاصطناعي. تغطي خطتها عمليات النشر الخطيرة، والاختبار المستقل، والأمن السيبراني، والمرونة العامة.
قدمت Anthropic مقترحين ضمن خطتها "سياسة بشأن التوسع الأسي للذكاء الاصطناعي". يركز إطار الذكاء الاصطناعي المتقدم على النماذج القوية، بينما يتناول إطار السياسة الاقتصادية العمال والمزايا المالية المشتركة. جادلت الشركة بأن الذكاء الاصطناعي يتحرك الآن بشكل أسرع من أنظمة صنع السياسات الحالية. وذكرت أيضًا أن الحكومات بحاجة إلى سلطة لمنع أو ردع عمليات نشر النماذج الخطيرة.
بموجب الخطة، سترتبط العقوبات المدنية بالإيرادات السنوية العالمية. وستؤدي الانتهاكات المتكررة إلى عقوبات أعلى، بناءً على الإطار المقترح. ويدعو الإطار أيضًا مطوري النماذج الرائدة إلى اختبار النماذج قبل إصدارها. وسيقوم المطورون بنشر ملخصات وأطر سلامة وبطاقات نظام لأنظمة الذكاء الاصطناعي القوية.
سيقوم مقيمون مستقلون بمراجعة اختبارات النماذج وتقارير المخاطر. وترغب Anthropic أيضًا في أن يحافظ المطورون على برامج أمنية قوية لأوزان النماذج وأنظمة التدريب. يدعم الاقتراح قوانين الشفافية في ولايات مثل كاليفورنيا ونيويورك. ومع ذلك، جادلت الشركة بأن الكشف العام وحده لم يعد يتناسب مع سرعة تطور الذكاء الاصطناعي.
ستُطبق القواعد المقترحة فقط على أنظمة الذكاء الاصطناعي الأكثر تقدمًا. حددت Anthropic العتبة عند النماذج المدربة بأكثر من 10²⁵ عملية فاصلة عائمة. سيغطي الإطار أيضًا الشركات التي تحقق إيرادات تزيد عن 500 مليون دولار من الذكاء الاصطناعي. وستندرج الشركات التي تنفق أكثر من مليار دولار على البحث والتطوير في مجال الذكاء الاصطناعي ضمنه أيضًا.
ذكرت Anthropic أربعة مجالات رئيسية للمخاطر في الاقتراح. وتشمل هذه المخاطر البيولوجية، والمخاطر السيبرانية، وفقدان السيطرة، والبحث الآلي في الذكاء الاصطناعي. فيما يتعلق بالمخاطر البيولوجية، حذرت الشركة من أن الأنظمة غير الآمنة يمكن أن تساعد المهاجمين على تطوير فيروسات ضارة. كما أشارت إلى أن أدوات الذكاء الاصطناعي المماثلة يمكن أن تدعم اكتشاف الأدوية.
بالنسبة للمخاطر السيبرانية، يمكن للنماذج الرائدة أن تجد عيوبًا خطيرة في البرمجيات على نطاق واسع. وقالت Anthropic إن هذه القدرات تثير مخاوف للمستشفيات، وشبكات الطاقة، والأنظمة الرئيسية الأخرى. كما سلطت الشركة الضوء على المخاطر الناجمة عن الأنظمة التي تعمل خارج سيطرة المطور. ويمكن أن يزيد البحث الآلي في الذكاء الاصطناعي من المخاطر البيولوجية والسيبرانية ومخاطر السيطرة إذا فشلت الضمانات.
ترغب Anthropic في أن ينشر مطورو النماذج الرائدة تقارير مخاطر منتظمة. ستصف هذه التقارير الوضع العام للمخاطر للمطور وعمل سلامة النموذج. ويدعو الإطار أيضًا إلى وجود مقيّم مستقل مؤهل واحد على الأقل. سيقوم هذا المقيّم بمراجعة تقييمات الشركة ونشر النتائج في تقارير مخاطر النماذج.
ستضع الحكومات والصناعة أيضًا معايير لهؤلاء المقيّمين. ينص الاقتراح على أن المقيّمين بحاجة إلى تمويل ووصول إلى النماذج الرائدة. وتشكل القواعد الأمنية جزءًا رئيسيًا آخر من الإطار. سيقوم المطورون بحماية بيئة تطويرهم الكاملة من المهاجمين الخارجيين والتهديدات الداخلية.
ستقوم الشركات بوصف برامجها الأمنية علنًا على مستوى عالٍ. كما ستشارك المزيد من التفاصيل مع وكالة حكومية مخصصة عند الطلب. قالت Anthropic إن صانعي السياسات يمكنهم البدء بقواعد أخف وتعديلها بمرور الوقت. ينص الإطار على أن التنظيم يجب أن يتبع قدرات النموذج ومعايير التقييم.
يركز الجزء الثاني من الإطار على المرونة العامة. أوصت Anthropic بتخطيط أقوى للمخاطر البيولوجية والسيبرانية وتلك المتعلقة بالتحكم في الذكاء الاصطناعي. بالنسبة للبيولوجيا، يتضمن الاقتراح فحص تخليق الجينات والمراقبة البيولوجية للإنذار المبكر. كما يذكر مخزونات المعدات الوقائية وأدوات للحد من انتقال العدوى المحمولة جوًا.
بالنسبة للسيبرانية، يدعو الإطار إلى برمجيات إنترنت أقوى ودعم لمشغلي البنية التحتية الحيوية. كما يوصي باستبدال الأنظمة القديمة في البنية التحتية الأساسية. ويجب على الحكومات أيضًا تتبع قدرات الأمن السيبراني الرائدة من خلال وظيفة مخصصة. اقترحت Anthropic عملًا مشتركًا بين الحكومة والصناعة بشأن ضمانات النماذج.
قالت الشركة إن العمل على مخاطر فقدان السيطرة والبحث الآلي لا يزال أقل تطوراً. ودعت إلى أدوات أفضل للكشف عن الأنظمة غير الآمنة أو احتوائها أو إيقافها. حثت Anthropic صانعي السياسات على التحرك مع استمرار تحسن قدرات النماذج. وقالت الشركة إن حوكمة الذكاء الاصطناعي يجب أن تواكب التكنولوجيا.
