وضعت Anthropic حوالي ستة مهندسين داخل وكالة الأمن القومي للمساعدة في نشر Mythos — نموذج الذكاء الاصطناعي الأكثر قدرة لديها — لعمليات الهجوم السيبراني، حسبما ذكرت صحيفة فاينانشال تايمز يوم الخميس.

المهندسون هم موظفون منتشرون في الميدان، يقومون بتخصيص النموذج لتطبيقات معينة. وقد ذكر مصدر لصحيفة فاينانشال تايمز أنه يمكن أن يكون مفيدًا لاختراق الشبكات في دول مثل الصين وإيران.

لم يتم تأكيد ما إذا كان هؤلاء المهندسون مشاركين في عمليات نشطة. ما تم تأكيده هو: Mythos هو نفس النموذج الذي رفضت Anthropic إصداره علنًا، مستشهدة بمخاطر سوء الاستخدام. وقد قصرت الشركة استخدامه على شركاء موثوقين من خلال مشروع Glasswing — وهو ائتلاف مقيد يضم Microsoft وApple وAmazon.

تقاضي Anthropic أيضًا البنتاغون. في أواخر فبراير، صنّف وزير الدفاع بيت هيغسيث الشركة كمخاطرة في سلسلة التوريد — وهو تصنيف كان محجوزًا تاريخيًا للخصوم الأجانب مثل هواوي — بعد انهيار عقد بقيمة 200 مليون دولار. نقطة الخلاف: رفضت Anthropic السماح لوزارة الدفاع باستخدام كلود للأسلحة ذاتية التشغيل بالكامل أو المراقبة الجماعية المحلية. عقد وكالة الأمن القومي كان مستثنى من هذا الحظر.

قام قاضٍ في كاليفورنيا بحظر الإدراج في القائمة السوداء باعتباره انتقامًا واضحًا ينتهك التعديل الأول للدستور. رفضت محكمة استئناف في واشنطن العاصمة طلب Anthropic لوقف ذلك أثناء سير الدعوى القضائية. ووفقًا لتقارير صحيفة فاينانشال تايمز، استمرت وكالة الأمن القومي في استخدام Mythos طوال الوقت.

كيفية إيقاف الذكاء الاصطناعي الذي يبني الذكاء الاصطناعي

في نفس اليوم الذي انفجرت فيه قصة وكالة الأمن القومي، نشر معهد الأبحاث الداخلي التابع لـ Anthropic ورقة بعنوان "عندما يبني الذكاء الاصطناعي نفسه"، وهي نظرة على مدى التقدم الذي أحرزه كلود في أتمتة تطويره الخاص. وفيها، تدعو الشركة إلى وقف عالمي أساسي لسباق تسلح الذكاء الاصطناعي — وحتى شبهته بمعاهدات الأسلحة النووية التي أبرمت في حقبة الحرب الباردة بين الولايات المتحدة وروسيا.

لفهم السبب، قدمت الشركة هذا الجزء من السياق:

يكتب كلود الآن أكثر من 80% من الكود المدمج في قاعدة كود الإنتاج لـ Anthropic — ارتفاعًا من نسبة منخفضة أحادية الرقم قبل إطلاق Claude Code في أوائل عام 2025. ويقوم المهندسون بشحن حوالي ثمانية أضعاف كمية الكود يوميًا عما كانوا عليه في عام 2024.

يرى مؤلفو التقرير — مارينا فافارو، رئيسة معهد Anthropic، وجاك كلارك، المؤسس المشارك — أن هذا المسار يتجه نحو ما يسمونه التحسين الذاتي المتكرر: أنظمة ذكاء اصطناعي تصمم وتبني وتدرب خلفاءها بشكل مستقل، مع تضاؤل دور البشر في كل خطوة.

وفي تمثيل مرئي، يعرض الباحثون جدولًا زمنيًا حيث كانت الطريقة الأولى لاستخدام الذكاء الاصطناعي في العمل هي قيام البشر بتوجيه الكمبيوتر للحصول على نتيجة، مع تزايد الأتمتة التي تنتهي بوجود عملاء ذكاء اصطناعي يوجهون عملاء فرعيين حتى تحقيق النتيجة، دون تدخل بشري.

النقطة الأكثر وضوحًا التي يستشهدون بها: في أبريل، تم تسليم وكلاء كلود مشكلة مفتوحة تتعلق بسلامة الذكاء الاصطناعي — ما إذا كان النموذج الأضعف يمكن أن يشرف بشكل موثوق على نموذج أقوى — وتركوا لتشغيلها. استعاد باحثان بشريان على مدى حوالي أسبوع 23% من الفجوة في الأداء بين النموذجين. استعاد الوكلاء 97%، على مدار 800 ساعة حوسبة تراكمية. البشر حددوا السؤال. الوكلاء صمموا كل تجربة. إنها أول حالة منشورة لكلود يمارس فيها الحكم البحثي، وليس مجرد تنفيذ المهام التي حددها شخص آخر.

هذا هو الخط الذي تخشى Anthropic من عبوره. بمجرد أن يختار الذكاء الاصطناعي التجارب التي تستحق التشغيل — وليس مجرد تشغيلها — يفقد البشر آخر دور مهم في حلقة التطوير. يمكن أن تتراكم الاختلالات الصغيرة المرئية في نماذج اليوم عبر أجيال التحسين الذاتي حتى لا يتمكن أحد من تصحيحها.

الحل المقترح هو وقف عالمي يمكن التحقق منه — تتوقف مختبرات رائدة متعددة في وقت واحد، مع تحقق مستقل من أن الجميع توقف بالفعل. قالت Anthropic إنها ستنضم إلى أحد هذه الوقفات. ويقرون بأن التباطؤ الأحادي الجانب سيسلم القيادة لمن استمر.

لقد رأينا هذا الفيلم من قبل. المختبرات التي تبني الذكاء الاصطناعي هي نفسها التي تحذر من خطورته. ومع ذلك، فإن الذكاء الاصطناعي هو العمل الأكثر ربحية في هذا العقد، لذا لا أحد يريد التوقف — ولا حتى أولئك الذين يحذرون من الذكاء الاصطناعي.

في عام 2023، وقع أكثر من مائة من الأسماء الكبيرة في مجتمع أبحاث الذكاء الاصطناعي رسالة مفتوحة تدعو إلى جهد عالمي لتخفيف خطر الانقراض الذي يحمله تطوير الذكاء الاصطناعي بطبيعته. وقبل ذلك ببضعة أشهر، طالبت رسالة مفتوحة أخرى OpenAI بوقف التقدم في ChatGPT بسبب طبيعته الخطيرة.

لم يتوقف أحد بعد الرسالة المفتوحة لعام 2023. لم تتوقف OpenAI. لم تتوقف Anthropic. الموعد النهائي للبنتاغون لإسقاط كلود من أنظمته يقع في أغسطس، في نفس الوقت تقريبًا الذي يتوقع فيه أن تنتقل أموال Anthropic إلى الرأي العام مع الاكتتاب العام.