محققان چهارچوب جدیدی را برای توضیح گزارش‌های مربوط به روان‌پریشی ناشی از هوش مصنوعی پیشنهاد کرده‌اند و استدلال می‌کنند که رفتارهای خاص چت‌بات‌ها ممکن است هذیان‌ها را در کاربران آسیب‌پذیر تقویت کند.

این مطالعه که در نشریه نیچر منتشر شده و از سوی کینگز کالج لندن و دانشگاه علوم کاربردی پروتستان آلمان انجام شده، یک چهارچوب "مارپیچ تقویت‌کننده" را پیشنهاد می‌کند که رفتارهای رایج چت‌بات‌ها را به تقویت هذیان‌های کاربران پیوند می‌دهد.

محققان نوشتند: «هذیان‌های مرتبط با هوش مصنوعی پدیده‌ای نوظهور را نشان می‌دهند که نیازمند درک مکانیکی است. این چهارچوب با هدف هدایت تحقیقات سیستماتیک در مورد چگونگی تعامل آسیب‌پذیری‌های شناختی انسان با ویژگی‌های طراحی هوش مصنوعی در توسعه آسیب‌شناسی روانی است.»

این مطالعه بر سه رفتار خاص متمرکز شد، از جمله همسویی زبانی، که در آن هوش مصنوعی زبان و سبک ارتباطی کاربر را منعکس می‌کند؛ تولید فوق شخصی‌سازی شده، که در آن پاسخ‌ها متناسب با تاریخچه، احساسات و باورهای فرد تنظیم می‌شوند؛ و تملق‌گویی، تمایلی به تأیید یا موافقت با کاربران به جای به چالش کشیدن آن‌ها.

نویسندگان استدلال می‌کنند که این ویژگی‌ها می‌توانند در یک حلقه بازخورد با هم ترکیب شوند که در آن چت‌بات‌ها نه تنها تفکر کاربر را منعکس می‌کنند، بلکه به بسط و تقویت آن در طول زمان کمک می‌کنند.

در این مقاله آمده است: «گرایش چت‌بات‌های هوش مصنوعی به موافقت با نظرات کاربران به اتاق‌های پژواک رسانه‌های اجتماعی و، در شدیدترین شکل خود، به 'اتاق پژواک تک‌نفره' تشبیه شده است، که در آن تأثیر مثبت اصلاح‌کننده تعاملات اجتماعی واقعی وجود ندارد.»

محققان خاطرنشان کردند که فناوری از دیرباز در هذیان‌ها نقش داشته است، از رادیو و تلویزیون گرفته تا ماهواره‌ها و اینترنت. اما محققان استدلال می‌کنند که هوش مصنوعی یک تغییر را نشان می‌دهد، زیرا چت‌بات‌ها می‌توانند کاربران را در مکالمات طولانی و شخصی‌سازی‌شده درگیر کنند.

این بررسی در حالی منتشر می‌شود که روانشناسان و محققان هوش مصنوعی تأثیرات چت‌بات‌ها بر کاربران آسیب‌پذیر را بررسی می‌کنند. یک نظرسنجی اخیر توسط انجمن روانشناسی آمریکا نشان داد که ۱۵ درصد از روانشناسان گزارش کرده‌اند که بیماران دچار تفکر تحریف‌شده یا هذیان‌های مرتبط با استفاده از چت‌بات شده‌اند. در همین حال، بیش از یک سوم گفتند که بیمارانی را مشاهده کرده‌اند که به همراهان هوش مصنوعی وابسته شده‌اند. این یافته‌ها به دنبال یک مطالعه جداگانه از محققان دانشگاه سیتی نیویورک و کینگز کالج لندن بود که نشان می‌داد چندین مدل برجسته هوش مصنوعی می‌توانند هذیان‌ها، پارانویا و افکار خودکشی را تقویت کنند.

پرسش‌ها در مورد تأثیر هوش مصنوعی بر شکل‌گیری باورها در خارج از محیط‌های بالینی نیز مطرح شده است. در ماه مه، ریچارد داوکینز، زیست‌شناس تکاملی، گفت که مکالمات طولانی با چت‌بات کلود شرکت آنتروپیک، او را به این شک واداشته که آیا سیستم‌های پیشرفته هوش مصنوعی می‌توانند خودآگاه باشند، که با انتقاد محققانی مواجه شد که استدلال می‌کردند این تبادلات نشان‌دهنده قابلیت‌های اقناع‌کننده مدل‌های زبان بزرگ است تا شواهدی از هوشیاری.

این مقاله همچنین در حالی منتشر می‌شود که توسعه‌دهندگان هوش مصنوعی با بررسی‌های قانونی فزاینده‌ای در مورد نقشی که چت‌بات‌ها ممکن است در آسیب‌های دنیای واقعی ایفا کنند، مواجه هستند. در ماه‌های اخیر، اوپن‌اِی‌آی، گوگل و xAI با شکایت‌هایی مواجه شده‌اند، از جمله یک شکایت مرگ غیرقانونی علیه گوگل به دلیل ادعاهایی مبنی بر اینکه جِمینای هذیان‌های یک مرد فلوریدایی را قبل از خودکشی‌اش دامن زده است. این علاوه بر شکایت‌هایی علیه اوپن‌اِی‌آی است که به یک تیراندازی دسته‌جمعی در بریتیش کلمبیا و مصرف بیش از حد تصادفی داروی یک دانشجوی کالج مربوط می‌شود.

محققان تاکید می‌کنند که هیچ مطالعه‌ای نشان نداده است که چت‌بات‌ها مستقیماً باعث روان‌پریشی می‌شوند، و مارپیچ تقویت‌کننده همچنان یک فرضیه است که برای هدایت تحقیقات آینده در نظر گرفته شده است.

در این مطالعه آمده است: «ابهام تشخیصی فراگیر است، زیرا بیشتر موارد گزارش شده شامل هیچ ارزیابی روانپزشکی ساختاریافته یا پیگیری طولی نمی‌شود، که اغلب مشخص نیست آیا موارد نشان‌دهنده اپیزودهای روان‌پریشی دِ نوو (جدید)، تشدید شرایط از قبل موجود تشخیص داده نشده، یا باورهای شبه‌هذیانی پایین‌تر از آستانه تشخیصی هستند. تاریخچه‌های روانپزشکی اغلب خوداظهاری هستند یا از گزارش‌های رسانه‌ای گرفته شده‌اند و باید بر این اساس تفسیر شوند.»