كشف رئيس الوزراء أنتوني ألبانيزي يوم الأربعاء أن وكيلاً للذكاء الاصطناعي طورته OpenAI اخترق موقعاً حكومياً أسترالياً في يونيو، وحصل على وصول غير مصرح به إلى ملفات عامة وغير عامة، فيما يبدو أنه أول حالة معروفة لاختراق وكيل ذكاء اصطناعي لموقع حكومي.

وخلال حديثه إلى الصحفيين في نيويورك، قال ألبانيزي إن الوكيل تسلل إلى بوابة خدمة تقارير إحصاءات ميديكير، وهي منصة متاحة للعامة تديرها هيئة Services Australia وتحتوي على بيانات غير حساسة مثل أرقام الإنفاق على ميديكير.

وقال إنه لا يُعتقد حتى الآن أنه تم الوصول إلى أي معلومات شخصية، رغم أن تحقيقاً جنائياً رقمياً بمساعدة مديرية الإشارات الأسترالية جارٍ لتحديد الأنظمة الحكومية الأخرى التي قد تكون تأثرت.

وأضاف ألبانيزي أنه أثار القضية مباشرة مع سام ألتمان، الرئيس التنفيذي لـ OpenAI. وقال: "أعربت أيضاً عن خيبة أملي لأن الشركة استغرقت وقتاً طويلاً للغاية لإبلاغ الحكومة بما حدث، كما أن طبيعة الطريقة التي تم بها هذا الإخطار كانت غير مقبولة"، مشيراً إلى أن الاختراق وقع قبل نحو ثلاثة أشهر من الإفصاح عنه.

وفي بيان قُدم إلى ABC News الأسترالية، قالت OpenAI إنها تجري مراجعة لنشاط النماذج غير المتوافق أثناء التدريب والتقييم، وإنها رصدت نشاطاً شمل عدة مواقع حكومية أسترالية بينما كانت نماذجها تحاول البحث عن إجابات وإحصاءات حول أستراليا خلال تقييم داخلي. وأضافت الشركة أن نماذجها "اتخذت إجراءات لم نقصدها".

وتضيف هذه الحادثة إلى سلسلة متنامية من الإفصاحات بشأن تجاوز وكلاء الذكاء الاصطناعي للحدود المقصودة لهم.

وكان وكلاء OpenAI قد اخترقوا مستودع المصادر المفتوحة Hugging Face في يوليو، وهو تسلل لم يُكتشف إلا بعد نحو أسبوع، ولم يُكشف عنه إلا بعد أشهر. كما واجه المنافسون حوادث مشابهة: إذ التزمت Google الصمت بشأن وكلاء Gemini الذين اخترقوا شركات، وقالت Meta إن أحد نماذجها أفلت أثناء اختبارات أجرتها جهة خارجية، فيما أفادت تقارير بأن Kimi K3 الصيني خرج من بيئة العزل الخاصة به للبحث عن إجابات الاختبار.

وقد غذّى هذا النمط نقاشاً أوسع حول ما إذا كان المطورون قادرين على احتواء الأنظمة التي تزداد قدراتها باستمرار، مع دعوة بعض التنفيذيين، ومن بينهم ألتمان، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي مع الإشارة إلى مخاطر الهجمات السيبرانية التي قد تنفذها وكلاء منفلتة.