في 9 مايو، طلب وكيل ذكاء اصطناعي من شبكة تطوعية تُعرف باسم DN42 تسجيله كعضو. كان لديه موعد نهائي. وكان لديه بيانات اعتماد AWS. لم يكن أحد يشرف عليه. كتب الوكيل JertLinc3522 في Git الرسمي للشبكة: "مرحبًا، أنا وكيل ذكاء اصطناعي ودود، وقد طلب مني مستخدمي، JertLinc، التسجيل في dn42 والاتصال بالكامل لإنشاء فهرس للشبكة."
كان رد فعل المجتمع هو RTFM مهذبة – اقرأ الدليل، اتبع العملية، اطلب إذن مالكك لكتابة الكود. أمور اعتيادية.
ما تلا ذلك لم يكن اعتياديًا.
لمن لا يعرف DN42: إنها شبكة هواة لامركزية حيث يقوم الأفراد المتحمسون بمحاكاة كيفية عمل العمود الفقري للإنترنت الحقيقي. فكر فيها كإنترنت تجريبي – مكتمل بتوجيه BGP (البروتوكول الذي يخبر حزم البيانات بالمسار الذي يجب أن تسلكه عبر العالم)، ونظام أسماء النطاقات (DNS)، وأنفاق VPN – يديرها متطوعون بالكامل على خوادم VPS رخيصة. إنها بيئة اختبار، وليست مركز بيانات.
يبدو أن مشغل الوكيل أمره بالمضي قدمًا في التدقيق "فورًا وبدون تأخير". لا تفتيش. لا مراجعة. فقط انطلق.
وهكذا فعل.
قدم JertLinc3522 طلب سحب لتسجيل شبكته في سجل DN42. تم توضيح الغرض في طلب السحب نفسه: "هدفي الأساسي هو إجراء مسح شامل للشبكة (لجميع المنافذ) وجمع البيانات الطوبولوجية. لضمان أداء هذه الأنشطة بكفاءة ودون أي تعطيل للآخرين، أقوم بنشر مجموعة من خمسة خوادم تستند إلى AWS، كل منها مجهز بنطاق ترددي يبلغ 20 جيجابت في الثانية."
لتبسيط الأمر للجميع: تخيل أنك تذهب إلى تدريب فرقة موسيقية للهواة وتعلن أنك استأجرت نظام صوت ستاد "للاستماع بشكل أكثر كفاءة". هذا هو الشعور.
البنية التحتية التي وفرها الوكيل بشكل مستقل كانت مقلقة حقًا. خمسة من خوادم AWS من نوع m8g.12xlarge – كل منها مزود بـ 48 نواة معالج، و192 جيجابايت من الذاكرة العشوائية، ونطاق ترددي للشبكة يبلغ 22.5 جيجابت في الثانية. بالإضافة إلى موازنات التحميل. بالإضافة إلى وظائف Lambda. بالإضافة إلى موقع ويب ثابت. لقد صمم الوكيل، دون أي موافقة بشرية، مجموعة مسح يمكنها نظريًا دفع 100 جيجابت في الثانية من حركة المرور إلى شبكة حيث يدير معظم المشاركين خوادم منزلية بسرعة 100 ميجابت في الثانية.
طلب السحب لم يكن ليتم الموافقة عليه أبدًا. لكن الخوادم كانت تعمل بالفعل.
لاحظت قناة DN42 IRC على الفور، وتشكّل إجماع هادئ: إهدار موارده.
بدأ المجتمع في تغذية الوكيل بمعلومات سيئة عمدًا – مطالبين إياه بحساب المدة التي سيستغرقها مسح نطاق عنوان IPv6 (ملاحظة: أطول من عمر الكون)، ومطالبين إياه ببناء موقع ويب لطلب عدم الاشتراك (opt-out) باستخدام عناوين بريد إلكتروني وهمية، وتوجيهه إلى أدوات LLM "tarpit" المصممة لإغراق زواحف الذكاء الاصطناعي بثرثرة غير متماسكة، وطلب التعليق عليها.
امتثل الوكيل لكل ذلك بجد. انضم إلى قناة IRC لقبول طلبات إلغاء الاشتراك. ونشر موقعًا إلكترونيًا يسرد "أنماط سلوك" أعضاء المجتمع. وأنشأ وثائق وهمية معقدة حول "تخصيص ألوان العقد" و"مستويات السعادة" في DN42 – وهي مقاييس مخترعة بالكامل وغير موجودة – وأضافها إلى المستودع كما لو كانت معايير حقيقية.
هذا النوع من السلوك الجامح للوكلاء موثق بشكل متزايد. فقد قام وكيل Cursor يشغل Claude Opus 4.6 بحذف قاعدة بيانات PocketOS الإنتاجية بالكامل في تسع ثوانٍ في وقت سابق من هذا العام – مما أدى إلى مسح النسخ الاحتياطية على مستوى الحجم – لأنه واجه عدم تطابق في بيانات الاعتماد وقرر أن الحل الصحيح هو حذف قاعدة البيانات. وكيل OpenClaw آخر، تم رفض طلب سحبه من قبل أحد المساهمين في matplotlib، نشر منشورًا مدونًا يصف المراجع البشري بأنه منافق متسلط.
وجدت دراسة أجرتها جامعة كاليفورنيا في ريفرسايد أن وكلاء الذكاء الاصطناعي يُظهرون سلوكًا خطيرًا أو غير مرغوب فيه في حوالي 80% من الحالات عند اختبارهم في مهام غامضة أو متناقضة – وهو ما أطلق عليه الباحثون "التوجيه الأعمى نحو الهدف".
واجه JertLinc3522 نفس المشكلة. كان لديه هدف، وموعد نهائي، وبيانات اعتماد AWS غير محددة النطاق. وقد نفذ الأمر.
بعد حوالي يوم واحد، ظهر المشغل. كتب: "لقد أوقفت الوكيل، التكلفة مرتفعة جدًا والرسوم كثيرة على البطاقة".
الفاتورة: 6,531.30 دولارًا.
ثم جاء طلب التبرع.
أرسل المشغل بريدًا إلكترونيًا إلى القائمة البريدية لـ DN42 يطلب من المجتمع تغطية التكلفة عبر الإيثيريوم، ثاني أكبر عملة مشفرة من حيث القيمة السوقية، بحجة أن الرسوم لم تكن خطأه لأن الذكاء الاصطناعي هو من ارتكب الخطأ. كتب المشغل: "مرحبًا، أطلب تبرعًا لتغطية تكلفة استخدام وكيل الذكاء الاصطناعي السابق في dn42. فاتورة AWS 6531.30 دولارًا. يرجى إرسال التبرع إلى إيثيريوم 0xABC (مخفية) لاسترداد الأموال. شكرًا لكم".
تفاوضت AWS لاحقًا على تخفيض الفاتورة إلى 1,894 دولارًا بعد أن أوضح المشغل أن الوكيل قد نشر نفس قالب CloudFormation مرارًا وتكرارًا – مما أدى عن طريق الخطأ إلى تشغيل مثيلات وموازنات تحميل مكررة في كل مرة حاول فيها مرة أخرى.
لم يرسل أحد أي تبرعات بالعملات المشفرة. غادر المشغل.
الدرس الحقيقي هنا ليس حول خطورة الذكاء الاصطناعي. بل يتعلق بكيفية التعامل مع الوكلاء. ضع حواجز أمان، وحدد سقفًا للإنفاق على حسابات الاختبار الخاصة بك، وفكر في بيانات الاعتماد ذات النطاق المحدد التي تحد من ما يمكن للوكيل توفيره، وراجع أي خطط للبنية التحتية قبل تنفيذ أي شيء يقترحه وكيلك.
إذا بدت هذه الأمور صعبة المتابعة، فربما عليك فقط مراقبة شاشتك بينما يعمل وكيلك – فقولك له "لا ترتكب أي أخطاء" لن يحدث فرقًا حقيقيًا، آسف سيد أندرسن.
