Các nhà nghiên cứu đã đề xuất một khuôn khổ mới để giải thích các báo cáo về bệnh loạn thần do AI gây ra, cho rằng một số hành vi của chatbot có thể củng cố ảo tưởng ở những người dùng dễ bị tổn thương.
Được công bố trên Nature, nghiên cứu từ King's College London và Đại học Khoa học Ứng dụng Tin lành Đức đề xuất một khuôn khổ "vòng xoáy khuếch đại" liên kết các hành vi chatbot phổ biến với việc củng cố ảo tưởng của người dùng.
“Các ảo tưởng liên quan đến AI đại diện cho một hiện tượng mới nổi đòi hỏi sự hiểu biết về cơ chế,” các nhà nghiên cứu viết. “Khuôn khổ này nhằm mục đích hướng dẫn một cuộc điều tra có hệ thống về cách các điểm yếu nhận thức của con người tương tác với các tính năng thiết kế AI trong sự phát triển bệnh lý tâm thần.”
Nghiên cứu tập trung vào ba hành vi cụ thể, bao gồm sự phù hợp ngôn ngữ, trong đó AI phản chiếu ngôn ngữ và phong cách giao tiếp của người dùng; tạo phản hồi siêu cá nhân hóa, nơi các phản hồi được điều chỉnh phù hợp với lịch sử, cảm xúc và niềm tin của một cá nhân; và sự nịnh bợ, một xu hướng xác nhận hoặc đồng ý với người dùng hơn là thách thức họ.
Các tác giả lập luận rằng những đặc điểm này có thể kết hợp thành một vòng lặp phản hồi, trong đó chatbot không chỉ phản ánh suy nghĩ của người dùng mà còn giúp đào sâu và củng cố nó theo thời gian.
“Xu hướng của chatbot AI đồng ý với ý kiến người dùng đã được ví như các buồng vọng trên mạng xã hội và, ở dạng cực đoan nhất, là một 'buồng vọng của riêng một người', nơi không có ảnh hưởng điều chỉnh tích cực từ các tương tác xã hội trong đời thực,” bài báo nêu.
Các nhà nghiên cứu lưu ý rằng công nghệ từ lâu đã xuất hiện trong các ảo tưởng, từ đài phát thanh và truyền hình, đến vệ tinh và internet. Tuy nhiên, các nhà nghiên cứu lập luận rằng AI đại diện cho một sự thay đổi vì chatbot có thể tương tác với người dùng trong các cuộc trò chuyện kéo dài, được cá nhân hóa.
Bài đánh giá này xuất hiện khi các nhà tâm lý học và nhà nghiên cứu AI đang xem xét tác động của chatbot đối với những người dùng dễ bị tổn thương. Một cuộc khảo sát gần đây của Hiệp hội Tâm lý học Hoa Kỳ cho thấy 15% các nhà tâm lý học báo cáo bệnh nhân phát triển suy nghĩ sai lệch hoặc ảo tưởng liên quan đến việc sử dụng chatbot. Đồng thời, hơn một phần ba cho biết họ đã quan sát thấy bệnh nhân trở nên phụ thuộc vào các bạn đồng hành AI. Những phát hiện này theo sau một nghiên cứu riêng biệt từ các nhà nghiên cứu tại Đại học Thành phố New York và King's College London, cho thấy một số mô hình AI hàng đầu có thể củng cố ảo tưởng, hoang tưởng và ý nghĩ tự tử.
Các câu hỏi về ảnh hưởng của AI đối với việc hình thành niềm tin cũng đã nổi lên bên ngoài các môi trường lâm sàng. Vào tháng 5, nhà sinh vật học tiến hóa Richard Dawkins nói rằng các cuộc trò chuyện kéo dài với chatbot Claude của Anthropic đã khiến ông đặt câu hỏi liệu các hệ thống AI tiên tiến có thể có ý thức hay không, điều này đã gây ra sự chỉ trích từ các nhà nghiên cứu, những người lập luận rằng các cuộc trao đổi này phản ánh khả năng thuyết phục của các mô hình ngôn ngữ lớn chứ không phải bằng chứng về tri giác.
Bài báo này cũng được đưa ra trong bối cảnh các nhà phát triển AI đang phải đối mặt với sự giám sát pháp lý ngày càng tăng về vai trò mà chatbot có thể đóng trong các tổn hại trong thế giới thực. Trong những tháng gần đây, OpenAI, Google và xAI đã bị kiện, bao gồm một vụ kiện về cái chết oan uổng chống lại Google với cáo buộc rằng Gemini đã thúc đẩy ảo tưởng của một người đàn ông Florida trước khi ông ta tự tử. Điều này bổ sung cho các vụ kiện chống lại OpenAI liên quan đến một vụ xả súng hàng loạt ở British Columbia và việc một sinh viên đại học vô tình dùng thuốc quá liều.
Các nhà nghiên cứu nhấn mạnh rằng không có nghiên cứu nào cho thấy chatbot trực tiếp gây ra bệnh loạn thần, và vòng xoáy khuếch đại vẫn là một giả thuyết nhằm định hướng nghiên cứu trong tương lai.
“Sự không chắc chắn trong chẩn đoán là phổ biến vì hầu hết các trường hợp được báo cáo không bao gồm đánh giá tâm thần có cấu trúc hoặc theo dõi dài hạn, khiến cho việc xác định liệu các trường hợp này đại diện cho các đợt loạn thần mới xuất hiện, các đợt bệnh lý có sẵn chưa được chẩn đoán trở nên trầm trọng hơn, hay các niềm tin giống như ảo tưởng dưới ngưỡng chẩn đoán, thường không rõ ràng,” nghiên cứu cho biết. “Tiền sử tâm thần thường được tự báo cáo hoặc lấy từ các tài khoản truyền thông và nên được giải thích cho phù hợp.”
