Nagpanukala ang mga mananaliksik ng isang bagong balangkas upang ipaliwanag ang mga ulat ng AI psychosis, na nagpapahayag na ang ilang pag-uugali ng chatbot ay maaaring magpatatag ng mga delusyon sa mga mahihinang user.
Inilathala sa Nature, ang pag-aaral mula sa King's College London at Protestant University of Applied Sciences ng Germany ay nagmumungkahi ng isang balangkas ng "amplification spiral" na nag-uugnay sa mga karaniwang pag-uugali ng chatbot sa pagpapatatag ng mga delusyon ng user.
“Ang mga delusyong nauugnay sa AI ay kumakatawan sa isang umuusbong na kababalaghan na nangangailangan ng mekanistikong pag-unawa,” isinulat ng mga mananaliksik. “Ang balangkas na ito ay naglalayong gabayan ang sistematikong pagtatanong kung paano nakikipag-ugnayan ang mga kahinaan sa pag-iisip ng tao sa mga feature ng disenyo ng AI sa pag-unlad ng psychopathology.”
Nakatuon ang pag-aaral sa tatlong partikular na pag-uugali, kabilang ang pag-ayon sa wika (linguistic alignment), kung saan sinasalamin ng AI ang wika at istilo ng komunikasyon ng user; hyperpersonalized na pagbuo (hyperpersonalized generation), kung saan ang mga tugon ay pinasadya sa kasaysayan, emosyon, at paniniwala ng isang indibidwal; at sycophancy, isang tendensiya na balidahin o sumang-ayon sa mga user sa halip na hamunin sila.
Ipinaglalaban ng mga may-akda na ang mga katangiang ito ay maaaring magsanib upang maging isang feedback loop kung saan hindi lamang sinasalamin ng mga chatbot ang pag-iisip ng isang user kundi tumutulong din sa pagpapalawak at pagpapatatag nito sa paglipas ng panahon.
“Ang tendensiya ng mga AI chatbot na sumang-ayon sa mga opinyon ng user ay inihambing sa mga social media echo chamber at, sa pinakamatinding anyo nito, sa isang 'echo chamber ng isa,’ kung saan wala ang positibong korektibong impluwensya ng totoong-buhay na mga interaksyong panlipunan,” nakasaad sa papel.
Napansin ng mga mananaliksik na matagal nang naging bahagi ng mga delusyon ang teknolohiya, mula sa radyo at telebisyon, hanggang sa mga satellite at internet. Ipinaglalaban ng mga mananaliksik, gayunpaman, na ang AI ay kumakatawan sa isang pagbabago dahil ang mga chatbot ay maaaring makipag-ugnayan sa mga user sa matagal at personal na mga usapan.
Dumating ang pagsusuri habang sinusuri ng mga psychologist at AI researcher ang mga epekto ng mga chatbot sa mga mahihinang user. Natuklasan ng isang kamakailang survey ng American Psychological Association na 15% ng mga psychologist ang nag-ulat ng mga pasyenteng nagkakaroon ng baluktot na pag-iisip o delusyon na nauugnay sa paggamit ng chatbot. Kasabay nito, mahigit sa isang katlo ang nagsabing napansin nila ang mga pasyenteng nagiging dependent sa mga kasamang AI. Sinundan ang mga natuklasan ng isang hiwalay na pag-aaral mula sa mga mananaliksik sa City University of New York at King's College London na nagpapakita na ang ilang nangungunang modelo ng AI ay maaaring magpatatag ng mga delusyon, paranoia, at mga kaisipang pagpapakamatay.
Ang mga tanong tungkol sa impluwensya ng AI sa pagbuo ng paniniwala ay lumitaw din sa labas ng mga klinikal na setting. Noong Mayo, sinabi ng evolutionary biologist na si Richard Dawkins na ang matagal na pag-uusap niya sa chatbot na Claude ng Anthropic ay nagdulot sa kanya ng pagdududa kung ang mga advanced na sistema ng AI ay maaaring magkaroon ng kamalayan, na umani ng kritisismo mula sa mga mananaliksik na nagsabing ang mga pagpapalitan ay sumasalamin sa mapanghikayat na kakayahan ng mga large language model sa halip na ebidensya ng sentience.
Ang papel ay dumating din habang humaharap ang mga developer ng AI sa lumalagong legal na pagsisiyasat tungkol sa papel na maaaring gampanan ng mga chatbot sa pinsala sa totoong mundo. Sa mga nakalipas na buwan, nahaharap sa mga kaso ang OpenAI, Google, at xAI, kabilang ang isang wrongful death suit laban sa Google dahil sa mga paratang na pinatindi ng Gemini ang mga delusyon ng isang lalaki sa Florida bago siya nagpakamatay. Ito ay bukod pa sa mga kaso laban sa OpenAI na nauugnay sa isang mass shooting sa British Columbia at sa aksidenteng overdose ng isang mag-aaral sa kolehiyo.
Binigyang-diin ng mga mananaliksik na walang pag-aaral ang nagpakita na direktang nagdudulot ng psychosis ang mga chatbot, at ang amplification spiral ay nananatiling isang hypothesis na nilayon upang gabayan ang pananaliksik sa hinaharap.
“Ang kawalan ng katiyakan sa diagnosis ay malaganap dahil karamihan sa mga naiulat na kaso ay walang kasamang structured na psychiatric assessment o longitudinal follow-up, na nagiging madalas na hindi malinaw kung ang mga kaso ay kumakatawan sa mga bagong psychotic episode, paglala ng mga hindi pa na-diagnose na kondisyon, o mga paniniwalang kahawig ng delusyon na nasa ibaba ng diagnostic threshold,” sabi ng pag-aaral. “Ang mga kasaysayang psychiatric ay madalas na self-reported o nagmula sa mga ulat ng media at dapat bigyang-kahulugan nang naaayon.”
