قال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، يوم الأربعاء إن الحكومات لم يعد بإمكانها التعامل مع تنظيم الذكاء الاصطناعي كمشكلة للدراسة، وأن الولايات المتحدة بحاجة إلى متطلبات سلامة ملزمة لأقوى نماذج الذكاء الاصطناعي.

في المقال الذي يحمل عنوان "سياسة الذكاء الاصطناعي الأسي"، يجادل أمودي بأن متطلبات الشفافية لم تعد كافية ويدعو إلى تنظيم ملزم لأنظمة الذكاء الاصطناعي الحدودية.

كتب أمودي: "يتقدم الذكاء الاصطناعي بوتيرة سريعة جدًا - ففي أربع سنوات فقط، انتقلت نماذج الذكاء الاصطناعي من كونها بالكاد تستطيع كتابة سطر برمجي متماسك إلى كتابة معظم الأكواد في شركات الذكاء الاصطناعي الكبرى".

يأتي مقال أمودي في الوقت الذي توسع فيه Anthropic الوصول إلى Claude Mythos بإطلاق Mythos 5 يوم الثلاثاء، وهو نموذجها المحدود للذكاء الاصطناعي الحدودي المخصص لمنظمات الأمن السيبراني والشركاء الحكوميين. وقد وجد الباحثون، بما في ذلك معهد أمن الذكاء الاصطناعي في المملكة المتحدة، أنه يمكنه تنفيذ هجمات سيبرانية معقدة بشكل مستقل.

وفقًا لأمودي، يستعير اقتراحه من الهيكل التنظيمي الذي تستخدمه إدارة الطيران الفيدرالية.

كتب: "يجب أن تخضع نماذج الذكاء الاصطناعي الحدودية، مثل الطائرات، لاختبار تقني وتدقيق، ويجب حظر إطلاقها أو إلغاؤه كتهديد للسلامة العامة إذا لم تستوفِ معايير السلامة العالية." وأضاف: "أنا ممتن لرؤية الأمر التنفيذي لإدارة ترامب يتحرك تدريجياً نحو دور أكبر للحكومة في الذكاء الاصطناعي، على الرغم من أن اقتراح Anthropic يوصي باتخاذ إجراءات أبعد من ذلك".

بموجب اقتراح أمودي، سيتطلب الإطار التنظيمي اختبارًا إلزاميًا من طرف ثالث لنماذج الذكاء الاصطناعي المتقدمة، وسلطة حكومية لحظر عمليات النشر غير الآمنة، ومتطلبات للشركات لتأمين أوزان النموذج، وإجراء اختبارات السلامة، والإبلاغ عن الحوادث الخطيرة. كما يدعو الحكومات إلى الاستعداد لإزاحة الوظائف التي يسببها الذكاء الاصطناعي والتقدم في تطوير الأدوية، والحد من المراقبة والأسلحة ذاتية التحكم في إنفاذ القانون المحلي، وتعزيز التعاون بين الدول الديمقراطية بشأن تقنيات الذكاء الاصطناعي الحيوية.

كتب: "أولاً، إزاحة الوظائف الدائمة أمر غير مرغوب فيه وخطير، ويجب أن نفعل كل ما في وسعنا للحد منها أو منعها، لا للتسبب فيها." وأضاف: "ثانيًا، أي استجابة لإزاحة الوظائف التي يسببها الذكاء الاصطناعي يجب أن تتناول كلاً من الحاجة إلى توفير سبل العيش للجميع اقتصاديًا، والحاجة إلى أن يجد الناس معنى وهدفًا وفاعلية".

يأتي المقال أيضًا في نفس الأسبوع الذي أطلقت فيه Anthropic نموذج Claude Fable 5، وهي نسخة موجهة للجمهور من Claude Mythos 5، والتي توجه بعض الطلبات التي تتضمن الأمن السيبراني، والبيولوجيا، والكيمياء، وتطوير الذكاء الاصطناعي إلى نموذج Claude Opus 4.8 الأقل قدرة كإجراء وقائي ضد سوء الاستخدام. وقد أثار هذا الإطلاق انتقادات من المطورين والباحثين بسبب استهلاك Fable الأعلى للتوكنز، ومتطلبات الاحتفاظ بالبيانات الإلزامية لمدة 30 يومًا، والإجراءات الوقائية التي يمكن أن تقلل من قدرات النموذج دون إخطار المستخدمين.

تأتي دعوة أمودي لتغييرات في السياسات المتعلقة بتطوير الذكاء الاصطناعي أيضًا في الوقت الذي تستعد فيه Anthropic للاكتتاب العام. في وقت سابق من هذا الشهر، قدمت الشركة أوراقها إلى هيئة الأوراق المالية والبورصات الأمريكية (SEC) لإجراء اكتتاب عام أولي بعد جمع جولة تمويل من الفئة H بقيمة 65 مليار دولار بتقييم قدره 965 مليار دولار.

في حين صور أمودي القضية على أنها سباق بين التقدم التكنولوجي والسياسة العامة، شكك النقاد فيما إذا كانت الدعوات إلى تنظيم أكثر صرامة للذكاء الاصطناعي تخدم المصلحة العامة حقًا. في أبريل، اتهم سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أنثروبيك باستخدام "التسويق القائم على الخوف" للترويج لـ Claude Mythos، مجادلًا بأن المخاوف بشأن الذكاء الاصطناعي المتقدم يمكن استخدامها لتبرير تركيز السيطرة على التكنولوجيا بين عدد قليل من الشركات.

قال ألتمان: "يمكنك تبرير ذلك بطرق عديدة ومختلفة، وبعضها حقيقي، مثل وجود مخاوف مشروعة تتعلق بالسلامة". وأضاف: "ولكن إذا كان ما تريده هو أننا 'نحتاج إلى السيطرة على الذكاء الاصطناعي، نحن فقط، لأننا الأشخاص الجديرون بالثقة'، فأعتقد أن التسويق القائم على الخوف هو على الأرجح الطريقة الأكثر فعالية لتبرير ذلك".

رفض أمودي فكرة أن المخاوف بشأن الذكاء الاصطناعي المتقدم هي في المقام الأول مشكلة علاقات عامة، مجادلًا بدلاً من ذلك بأن المخاوف بشأن التكنولوجيا تعكس قلقًا مشروعًا يجب معالجته.

قال: "الناس قلقون بشأن الذكاء الاصطناعي لأنهم يدركون بشكل صحيح أن مخاطره حقيقية، وليس لأن الرؤساء التنفيذيين للذكاء الاصطناعي كانوا أقل تفاؤلاً من بانغلوس"، في إشارة إلى الفيلسوف الخيالي بانغلوس من رواية فولتير "كانديد"، المعروف بتفاؤله الثابت بأن كل شيء على ما يرام بغض النظر عن الظروف.

قال: "أعتقد أنه من واجبي كقائد في مجال الذكاء الاصطناعي أن أظل شفافًا بشأن هذه المخاطر، وأن القلق العام استجابة لهذه الشفافية يشكل مساءلة ديمقراطية تعمل كما ينبغي".