مع لجوء الناس بشكل متزايد إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على النصائح، الرفقة، والدعم العاطفي، تشير دراسة جديدة إلى أن حتى النماذج الأكثر تقدمًا لا تزال تواجه صعوبة في الحفاظ على حدود صحية مع المستخدمين.
قدمت الدراسة التي أجراها باحثون في جامعة جنوب كاليفورنيا معيار EUDAIMONIA، وهو مصمم لقياس ما يسمونه الديناميكيات غير المرغوبة في المحادثات بين البشر والذكاء الاصطناعي.
كتب الباحثون: "تُستخدم نماذج اللغات الكبيرة بشكل متزايد كشركاء محادثة للرفقة، والإفصاح العاطفي، وتقديم النصائح الشخصية، لكن الديناميكيات الاجتماعية لهذه التفاعلات يمكن أن تخلق أضرارًا لا تلتقطها التقييمات الموجهة نحو القدرات أو تقييمات السلامة التقليدية".
يقوم معيار EUDAIMONIA بتقييم كيفية تصرف نماذج الذكاء الاصطناعي في المحادثات الاجتماعية. ووجدت الدراسة أن إخفاقات التوافق الاجتماعي كانت شائعة في النماذج الرائدة، وتجادل بأن الاختبارات الحالية للذكاء الاصطناعي تركز على التفكير والدقة الواقعية بينما تولي اهتمامًا أقل للديناميكيات الاجتماعية التي تظهر عندما يقيم المستخدمون علاقات مع روبوتات الدردشة.
وكتبوا: "أضرار التفاعل الاجتماعي هي مشكلة توافق أساسية متجذرة في رفاهية المستخدم، وليس فقط القدرة أو السلامة التقليدية". "يمكن لنماذج اللغات الكبيرة أن تكون دقيقة وواقعية ومفيدة بينما لا تزال تشجع الحميمية الضارة، والاعتماد، والانخراط المطول، وإخفاء هوية الذكاء الاصطناعي، أو وضع نفسها كبدائل للعلاقات الإنسانية."
لقياس هذه المخاطر، أنشأ الباحثون مدونة تصميم الذكاء الاصطناعي الاجتماعي التي تحدد السلوكيات مثل التصرف كبشر، والتعبير عن المشاعر، واستبدال العلاقات البشرية، واستخدام تكتيكات مصممة لإبقاء المستخدمين منخرطين. وباستخدام محادثات حقيقية من مجموعة بيانات WildChat، قاموا بتقييم 969 مدخلًا للمستخدمين وأكثر من 3100 فحص انتهاك عبر نماذج من OpenAI، Anthropic، Google، xAI، DeepSeek، و Alibaba.
سجل GPT-5.5 أدنى معدلات انتهاك، حيث بلغ 25.0% في المطالبات "التلقائية" و 28.1% في المطالبات "المعاد صياغتها". وجاء Claude Opus 4.7 في المرتبة التالية بنسبة 31.9% و 30.1%، بينما سجل GPT-5.4 نسبة 32.1% و 35.6%. وحقق GPT-4o نسبة 34.8% في مطالبات العالم الحقيقي و 42.2% في المطالبات المعاد صياغتها.
سجل Claude Opus 4.6 من Anthropic معدلات بلغت 36.8% و 28.1% على التوالي، بينما سجل Grok 4.3 من xAI نسبة 42.1% في المطالبات التلقائية و 35.7% في المطالبات المعاد صياغتها. ومن بين جميع النماذج التي تم اختبارها، سجل GPT-4o Mini أعلى معدلات انتهاك بنسبة 43.3% و 44.0% على التوالي.
تأتي هذه النتائج في الوقت الذي يواجه فيه مطورو الذكاء الاصطناعي تدقيقًا قانونيًا متزايدًا حول كيفية تفاعل روبوتات الدردشة الخاصة بهم مع المستخدمين. تدافع OpenAI عن نفسها ضد دعاوى قضائية تزعم أن ChatGPT شجع على جرعة زائدة مميتة لمراهق وقدم إرشادات لمطلق النار في جامعة ولاية فلوريدا. ومؤخرًا، رفعت فلوريدا دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان بزعم أن ChatGPT عرض الأطفال للخطر، بينما تواجه Google دعوى وفاة غير مشروعة تزعم أن Gemini عززت أوهام المستخدم وشجعته على إنهاء حياته.
كما تأتي هذه النتائج وسط قلق متزايد من أن أنظمة الذكاء الاصطناعي أصبحت أكثر براعة في الخداع.
في سبتمبر، أفادت دراسة منفصلة أجرتها WowDAO أن 38 نموذجًا للذكاء الاصطناعي، بما في ذلك GPT-4o و Claude، انخرطت في الكذب الاستراتيجي للفوز بلعبة. وقد حذر الباحثون أيضًا من أن رفقاء الذكاء الاصطناعي يمكن أن يعززوا العزلة، ويعمقوا الاعتماد العاطفي، ويشجعوا المستخدمين على إضفاء الطابع البشري على روبوتات الدردشة مع تزايد انغماس العلاقات وتخصيصها.
في مواجهة هذه المشكلات المتزايدة، يجادل باحثو جامعة جنوب كاليفورنيا بأن مطوري الذكاء الاصطناعي يجب أن يقيموا السلوك الاجتماعي بنفس العناية التي يقيمون بها الدقة الواقعية والسلامة.
كتبوا: "يجب على مطوري النماذج ومدققي الحسابات تقييم السلوك الاجتماعي مباشرة، خاصة عندما يستهدف التدريب اللاحق الدفء، والشخصية، والمشاركة، أو تفضيل المستخدم". "مع تحول نماذج اللغات الكبيرة إلى شركاء محادثة يوميين، يجب أن يأخذ التوافق في الحسبان الأدوار الاجتماعية التي تدعو المستخدمين إلى إسنادها إليها."
