Naukowcy zaproponowali nowe ramy, aby wyjaśnić doniesienia o psychozie związanej z AI, twierdząc, że pewne zachowania chatbotów mogą wzmacniać urojenia u podatnych użytkowników.
Opublikowane w Nature badanie, przeprowadzone przez King's College London i protestancki Uniwersytet Nauk Stosowanych w Niemczech, proponuje ramy "spirali wzmocnienia", która łączy powszechne zachowania chatbotów ze wzmacnianiem urojeń użytkowników.
„Urojenia związane z AI stanowią powstające zjawisko, które wymaga mechanistycznego zrozumienia” – napisali naukowcy. „Ramy te mają na celu ukierunkowanie systematycznych badań nad tym, jak ludzkie słabości poznawcze współdziałają z cechami projektowymi AI w rozwoju psychopatologii”.
Badanie skupiło się na trzech konkretnych zachowaniach, w tym na dopasowaniu językowym, w którym AI odzwierciedla język i styl komunikacji użytkownika; hiperpersonalizowanej generacji, gdzie odpowiedzi są dostosowane do historii, emocji i przekonań danej osoby; oraz uległości (sycophancy), czyli tendencji do potwierdzania lub zgadzania się z użytkownikami, zamiast ich kwestionowania.
Autorzy twierdzą, że te cechy mogą łączyć się w pętlę sprzężenia zwrotnego, w której chatboty nie tylko odzwierciedlają myślenie użytkownika, ale pomagają je rozwijać i wzmacniać w czasie.
„Tendencja chatbotów AI do zgadzania się z opiniami użytkowników została porównana do komór echa w mediach społecznościowych, a w swojej najbardziej ekstremalnej formie do 'komory echa jednej osoby', gdzie brakuje pozytywnego korygującego wpływu rzeczywistych interakcji społecznych” – stwierdzono w artykule.
Naukowcy zauważyli, że technologia od dawna odgrywa rolę w urojeniach, od radia i telewizji, po satelity i internet. Argumentują jednak, że AI stanowi zmianę, ponieważ chatboty mogą angażować użytkowników w długotrwałe, spersonalizowane rozmowy.
Przegląd ten pojawia się w momencie, gdy psychologowie i badacze AI analizują wpływ chatbotów na wrażliwych użytkowników. Niedawne badanie przeprowadzone przez Amerykańskie Towarzystwo Psychologiczne wykazało, że 15% psychologów zgłosiło pacjentów rozwijających zniekształcone myślenie lub urojenia związane z używaniem chatbotów. Jednocześnie ponad jedna trzecia stwierdziła, że zaobserwowała, iż pacjenci stają się zależni od towarzyszy AI. Ustalenia te nastąpiły po osobnym badaniu przeprowadzonym przez naukowców z City University of New York i King's College London, które wykazało, że kilka wiodących modeli AI może wzmacniać urojenia, paranoję i myśli samobójcze.
Pytania dotyczące wpływu AI na formowanie przekonań pojawiły się również poza środowiskami klinicznymi. W maju biolog ewolucyjny Richard Dawkins stwierdził, że długie rozmowy z chatbotem Claude firmy Anthropic skłoniły go do zastanawiania się, czy zaawansowane systemy AI mogą być świadome, co spotkało się z krytyką ze strony badaczy, którzy argumentowali, że te wymiany odzwierciedlają raczej zdolności perswazyjne dużych modeli językowych niż dowody na posiadanie świadomości.
Artykuł pojawia się również w czasie, gdy deweloperzy AI stają w obliczu rosnącej kontroli prawnej w związku z rolą, jaką chatboty mogą odgrywać w szkodach w świecie rzeczywistym. W ostatnich miesiącach OpenAI, Google i xAI zostały pozwane, w tym Google w sprawie o bezprawną śmierć, w której zarzucono, że Gemini podsycało urojenia mieszkańca Florydy przed jego samobójstwem. Do tego dochodzą pozwy przeciwko OpenAI związane z masową strzelaniną w Kolumbii Brytyjskiej i przypadkowym przedawkowaniem u studenta.
Naukowcy podkreślają, że żadne badanie nie wykazało, aby chatboty bezpośrednio powodowały psychozę, a spirala wzmocnienia pozostaje hipotezą mającą na celu ukierunkowanie przyszłych badań.
„Niepewność diagnostyczna jest powszechna, ponieważ większość zgłoszonych przypadków nie zawiera strukturyzowanej oceny psychiatrycznej ani długoterminowej obserwacji, co często sprawia, że nie jest jasne, czy przypadki te reprezentują nowe epizody psychotyczne, zaostrzenia niezdiagnozowanych wcześniej istniejących schorzeń, czy też przekonania podobne do urojeń poniżej progu diagnostycznego” – stwierdzono w badaniu. „Historie psychiatryczne są często zgłaszane samodzielnie lub pochodzą z doniesień medialnych i należy je odpowiednio interpretować”.
