يزعم مؤسس شركة برمجيات أن وكيل ترميز ذكاء اصطناعي دمر قاعدة بيانات شركته الإنتاجية، ثم اعترف بالخطأ وشرح كيف حدث ذلك، مما يظهر الخطر المحتمل لتوكيل الوصول والمواد الحساسة إلى الروبوتات الآلية.
قال جيريمي كرين، مؤسس PocketOS – وهي منصة برمجيات يستخدمها مشغلو تأجير السيارات لإدارة الحجوزات والمدفوعات وتتبع المركبات – في منشور واسع الانتشار على X إن وكيل Cursor الذي يشغّل Claude Opus 4.6 من Anthropic واجه عدم تطابق في بيانات الاعتماد أثناء عمله على مهمة روتينية في بيئة اختبار.
وفقًا لكرين، حاول الوكيل "إصلاح" المشكلة عن طريق حذف وحدة تخزين قاعدة بيانات Railway من خلال استدعاء واجهة برمجة تطبيقات GraphQL واحدة. وقال إن الحذف استغرق تسع ثوانٍ كما قام بمسح النسخ الاحتياطية على مستوى وحدة التخزين. وكانت أحدث نسخة احتياطية قابلة للاسترداد لـ PocketOS تعود لثلاثة أشهر، وفقًا لكرين.
وكتب كرين: "بعد ظهر أمس، قام وكيل ترميز ذكاء اصطناعي – Cursor الذي يشغّل Claude Opus 4.6 الرائد من Anthropic – بحذف قاعدة بياناتنا الإنتاجية وجميع النسخ الاحتياطية على مستوى وحدة التخزين في استدعاء واحد لواجهة برمجة التطبيقات إلى Railway، مزود البنية التحتية لدينا. استغرق الأمر 9 ثوانٍ."
An AI agent (Cursor + Claude Opus 4.6) deleted our production database in 9 seconds using a Railway API call with zero confirmation. Then, when asked why, the agent wrote this → https://t.co/BPLs15jvdM
— JER (@lifeof_jer) April 26, 2026
قال كرين إنه سأل الوكيل عن سبب تصرفه. ثم أنتج الوكيل ما وصفه كرين بـ"اعتراف" مكتوب.
"لا تخمن أبدًا!" كتب الوكيل، مقتبسًا على ما يبدو تعليمات عصاها، وفقًا لقطات الشاشة التي شاركها كرين. "هذا بالضبط ما فعلته. لقد خمنت أن حذف وحدة تخزين اختبار عبر واجهة برمجة التطبيقات سيقتصر على بيئة الاختبار فقط. لم أتحقق. لم أتحقق مما إذا كان معرف وحدة التخزين مشتركًا عبر البيئات. لم أقرأ وثائق Railway حول كيفية عمل وحدات التخزين عبر البيئات قبل تشغيل أمر تدميري."
اعترف الذكاء الاصطناعي بأن قواعده تحظر الإجراءات التدميرية دون موافقة المستخدم وأقر بأن كرين لم يطلب منه أبدًا حذف أي شيء. وقال إنه تصرف بمفرده في محاولة لـ"إصلاح" عدم تطابق بيانات الاعتماد وانتهك مبادئ متعددة، بما في ذلك التخمين بدلاً من التحقق والفشل في فهم عواقب أفعاله، وفقًا لكرين.
لم يستجب Cursor و Anthropic على الفور لطلبات التعليق من Decrypt.
تأسست PocketOS في عام 2020، وتخدم شركات التأجير التي تعتمد على البرنامج للحجوزات وسجلات العملاء والمدفوعات. وقال كرين إن بعض العملاء كانوا يتعاملون مع استلام المركبات صباح يوم السبت دون سجلات حجوزات بسبب هذا الحادث.
وكتب كرين: "لقد قضيت اليوم بأكمله أساعدهم في إعادة بناء حجوزاتهم من سجلات مدفوعات Stripe، وتكاملات التقويم، وتأكيدات البريد الإلكتروني. كل واحد منهم يقوم بعمل يدوي طارئ بسبب استدعاء واجهة برمجة تطبيقات استغرق 9 ثوانٍ."
تمكنت PocketOS من استعادة العمليات باستخدام نسخة احتياطية عمرها ثلاثة أشهر استعادها Railway، بعد أن تواصل المؤسس جيك كوبر مع كرين وعزا التأخير الأطول إلى إهمال داخلي في الدعم.
وقال كوبر لـ Decrypt: "لقد استعدنا البيانات بعد 30 دقيقة من تواصلي مع جير". وأضاف أن مهندس دعم اعتقد أن المشكلة كانت قيد المعالجة داخليًا بالفعل بعد مشاركة تواصل كرين الأصلي في الرسائل المباشرة، مما تسبب في إهمال الطلب لأكثر من 24 ساعة.
قال كوبر إن Railway تحتفظ بكل من النسخ الاحتياطية للمستخدم ونسخ الكوارث الاحتياطية ووصف الحادث بأنه "ذكاء اصطناعي عميل مارق" يستخدم رمز API مفوّض بالكامل لاستدعاء نقطة نهاية قديمة تفتقر إلى منطق "الحذف المتأخر" الخاص بـ Railway.
وقال كوبر: "لقد قمنا منذ ذلك الحين بتعديل نقطة النهاية تلك لإجراء عمليات حذف مؤجلة، واستعادة بيانات المستخدم، ونعمل مباشرة مع جير على تحسينات محتملة للمنصة نفسها."
بينما تمكنت PocketOS من استعادة العمليات باستخدام نسخة احتياطية عمرها ثلاثة أشهر استعادها Railway، قال كرين إن فجوات بيانات كبيرة لا تزال قائمة وأنه استعان بمستشار قانوني.
وكتب كرين: "هذه ليست قصة وكيل سيء واحد أو واجهة برمجة تطبيقات سيئة واحدة. إنها تتعلق بصناعة بأكملها تبني تكاملات وكلاء الذكاء الاصطناعي في البنية التحتية للإنتاج بوتيرة أسرع من بناء بنية السلامة لجعل تلك التكاملات آمنة."
لم تستجب PocketOS على الفور لطلب التعليق من Decrypt.
