اقترح باحثون إطار عمل جديدًا لشرح التقارير المتعلقة بالذهان المرتبط بالذكاء الاصطناعي، مجادلين بأن سلوكيات معينة لروبوتات الدردشة قد تعزز الأوهام لدى المستخدمين المعرضين للخطر.
نشرت دراسة في مجلة Nature، صادرة عن كينغز كوليدج لندن والجامعة البروتستانتية للعلوم التطبيقية في ألمانيا، إطار عمل "دوامة التضخيم" الذي يربط سلوكيات روبوتات الدردشة الشائعة بتعزيز أوهام المستخدمين.
كتب الباحثون: "تمثل الأوهام المرتبطة بالذكاء الاصطناعي ظاهرة ناشئة تتطلب فهمًا ميكانيكيًا". وأضافوا: "يهدف هذا الإطار إلى توجيه البحث المنهجي حول كيفية تفاعل نقاط الضعف المعرفية البشرية مع ميزات تصميم الذكاء الاصطناعي في تطور الأمراض النفسية."
ركزت الدراسة على ثلاثة سلوكيات محددة، تشمل المواءمة اللغوية، حيث يعكس الذكاء الاصطناعي لغة المستخدم وأسلوب اتصاله؛ والتوليد فائق التخصيص، حيث تُصمم الاستجابات لتناسب تاريخ الفرد ومشاعره ومعتقداته؛ والتملق، وهو ميل إلى تأكيد المستخدمين أو الاتفاق معهم بدلاً من تحديهم.
يجادل المؤلفون بأن هذه السمات يمكن أن تتحد لتشكل حلقة تغذية راجعة لا تعكس فيها روبوتات الدردشة تفكير المستخدم فحسب، بل تساعد أيضًا في توضيحه وتعزيزه بمرور الوقت.
ذكرت الورقة البحثية: "لقد شُبه ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى الموافقة على آراء المستخدمين بغرف الصدى على وسائل التواصل الاجتماعي، وفي شكلها الأكثر تطرفًا، بغرفة صدى 'شخص واحد' حيث يغيب التأثير التصحيحي الإيجابي للتفاعلات الاجتماعية في الحياة الواقعية".
أشار الباحثون إلى أن التكنولوجيا طالما لعبت دورًا في الأوهام، من الراديو والتلفزيون إلى الأقمار الصناعية والإنترنت. ومع ذلك، يجادل الباحثون بأن الذكاء الاصطناعي يمثل تحولًا لأن روبوتات الدردشة يمكنها إشراك المستخدمين في محادثات مطولة وشخصية.
يأتي هذا الاستعراض في الوقت الذي يقوم فيه علماء النفس وباحثو الذكاء الاصطناعي بفحص تأثيرات روبوتات الدردشة على المستخدمين المعرضين للخطر. فقد وجد استطلاع حديث أجرته الجمعية الأمريكية لعلم النفس أن 15% من علماء النفس أبلغوا عن إصابة مرضى بتفكير مشوه أو أوهام تتعلق باستخدام روبوتات الدردشة. وفي الوقت نفسه، قال أكثر من الثلث إنهم لاحظوا أن المرضى أصبحوا يعتمدون على رفاق الذكاء الاصطناعي. وجاءت هذه النتائج بعد دراسة منفصلة من باحثين في جامعة سيتي نيويورك وكينغز كوليدج لندن أظهرت أن العديد من نماذج الذكاء الاصطناعي الرائدة يمكن أن تعزز الأوهام والبارانويا والأفكار الانتحارية.
ظهرت تساؤلات حول تأثير الذكاء الاصطناعي على تكوين المعتقدات أيضًا خارج الأوساط السريرية. في مايو، قال عالم الأحياء التطوري ريتشارد دوكينز إن المحادثات المطولة مع روبوت الدردشة Claude من Anthropic دفعته إلى التساؤل عما إذا كانت أنظمة الذكاء الاصطناعي المتقدمة يمكن أن تكون واعية، مما أثار انتقادات من الباحثين الذين جادلوا بأن هذه التبادلات تعكس القدرات الإقناعية لنماذج اللغات الكبيرة بدلاً من كونها دليلًا على الوعي.
تأتي الورقة البحثية أيضًا في الوقت الذي يواجه فيه مطورو الذكاء الاصطناعي تدقيقًا قانونيًا متزايدًا بشأن الدور الذي قد تلعبه روبوتات الدردشة في الأضرار الواقعية. في الأشهر الأخيرة، واجهت شركات OpenAI وGoogle وxAI دعاوى قضائية، بما في ذلك دعوى وفاة غير مشروعة ضد Google بشأن مزاعم بأن Gemini غذّى أوهام رجل من فلوريدا قبل انتحاره. ويضاف إلى ذلك دعاوى قضائية ضد OpenAI مرتبطة بحادث إطلاق نار جماعي في كولومبيا البريطانية وجرعة زائدة عرضية لطالب جامعي.
يؤكد الباحثون أنه لم تُظهر أي دراسة أن روبوتات الدردشة تسبب الذهان بشكل مباشر، وأن دوامة التضخيم لا تزال مجرد فرضية تهدف إلى توجيه الأبحاث المستقبلية.
ذكرت الدراسة: "إن عدم اليقين التشخيصي واسع الانتشار حيث أن معظم الحالات المبلغ عنها لا تتضمن تقييمًا نفسيًا منظمًا أو متابعة طولية، مما يجعل من غير الواضح غالبًا ما إذا كانت الحالات تمثل نوبات ذهانية جديدة، أو تفاقمًا لحالات موجودة مسبقًا غير مشخصة، أو معتقدات شبيهة بالوهم دون العتبة التشخيصية." وأضافت: "غالبًا ما تكون السجلات النفسية مبلغ عنها ذاتيًا أو مستمدة من التقارير الإعلامية ويجب تفسيرها وفقًا لذلك".
