शोधकर्ताओं ने AI मनोसिस (psychosis) की रिपोर्टों को समझाने के लिए एक नया ढाँचा प्रस्तावित किया है, उनका तर्क है कि कुछ चैटबॉट व्यवहार संवेदनशील उपयोगकर्ताओं में भ्रम को मजबूत कर सकते हैं।

नेचर में प्रकाशित, किंग्स कॉलेज लंदन और जर्मनी के प्रोटेस्टेंट यूनिवर्सिटी ऑफ एप्लाइड साइंसेज के इस अध्ययन में एक "एम्पलीफिकेशन स्पाइरल" (प्रवर्धन सर्पिल) ढाँचा प्रस्तावित किया गया है जो सामान्य चैटबॉट व्यवहारों को उपयोगकर्ता के भ्रमों को मजबूत करने से जोड़ता है।

शोधकर्ताओं ने लिखा, "AI-संबंधित भ्रम एक उभरती हुई घटना का प्रतिनिधित्व करते हैं जिसके लिए यांत्रिक समझ की आवश्यकता है।" "यह ढाँचा इस बात की व्यवस्थित जाँच का मार्गदर्शन करना चाहता है कि मनोग्रस्तता (psychopathology) के विकास में मानवीय संज्ञानात्मक कमजोरियाँ AI डिज़ाइन सुविधाओं के साथ कैसे बातचीत करती हैं।"

इस अध्ययन में तीन विशिष्ट व्यवहारों पर ध्यान केंद्रित किया गया, जिनमें भाषाई संरेखण शामिल है, जिसमें AI उपयोगकर्ता की भाषा और संचार शैली को दर्शाता है; अति-व्यक्तिगत पीढ़ी, जहाँ प्रतिक्रियाएँ किसी व्यक्ति के इतिहास, भावनाओं और विश्वासों के अनुरूप बनाई जाती हैं; और चापलूसी (sycophancy), जो उपयोगकर्ताओं को चुनौती देने के बजाय उन्हें मान्य करने या उनसे सहमत होने की प्रवृत्ति है।

लेखकों का तर्क है कि ये विशेषताएँ एक फीडबैक लूप में जुड़ सकती हैं जिसमें चैटबॉट न केवल उपयोगकर्ता की सोच को दर्शाते हैं बल्कि समय के साथ उसे विस्तृत और मजबूत करने में भी मदद करते हैं।

पेपर में कहा गया है, "AI चैटबॉट्स की उपयोगकर्ता की राय से सहमत होने की प्रवृत्ति को सोशल मीडिया के इको चैंबरों के समान बताया गया है और, अपने सबसे चरम रूप में, 'एक के इको चैंबर' के समान, जहाँ वास्तविक जीवन की सामाजिक बातचीत का सकारात्मक सुधारात्मक प्रभाव अनुपस्थित होता है।"

शोधकर्ताओं ने बताया कि तकनीक लंबे समय से भ्रम में शामिल रही है, रेडियो और टेलीविजन से लेकर उपग्रहों और इंटरनेट तक। हालाँकि, शोधकर्ताओं का तर्क है कि AI एक बदलाव का प्रतिनिधित्व करता है क्योंकि चैटबॉट उपयोगकर्ताओं को लंबे, व्यक्तिगत वार्तालापों में शामिल कर सकते हैं।

यह समीक्षा ऐसे समय में आई है जब मनोवैज्ञानिक और AI शोधकर्ता संवेदनशील उपयोगकर्ताओं पर चैटबॉट के प्रभावों की जाँच कर रहे हैं। अमेरिकन साइकोलॉजिकल एसोसिएशन के एक हालिया सर्वेक्षण में पाया गया कि 15% मनोवैज्ञानिकों ने रोगियों में चैटबॉट के उपयोग से संबंधित विकृत सोच या भ्रम विकसित होने की सूचना दी। साथ ही, एक तिहाई से अधिक ने कहा कि उन्होंने रोगियों को AI साथियों पर निर्भर होते देखा है। ये निष्कर्ष सिटी यूनिवर्सिटी ऑफ़ न्यूयॉर्क और किंग्स कॉलेज लंदन के शोधकर्ताओं के एक अलग अध्ययन के बाद आए हैं, जिसमें दिखाया गया है कि कई प्रमुख AI मॉडल भ्रम, व्यामोह (paranoia) और आत्महत्या के विचारों को मजबूत कर सकते हैं।

विश्वास निर्माण पर AI के प्रभाव के बारे में सवाल नैदानिक ​​सेटिंग्स के बाहर भी सामने आए हैं। मई में, विकासवादी जीवविज्ञानी रिचर्ड डॉकिन्स ने कहा कि एंथ्रोपिक के क्लाउड चैटबॉट के साथ लंबी बातचीत ने उन्हें यह सवाल करने पर मजबूर कर दिया कि क्या उन्नत AI सिस्टम सचेत हो सकते हैं, जिससे उन शोधकर्ताओं की आलोचना हुई जिन्होंने तर्क दिया कि ये आदान-प्रदान बड़े भाषा मॉडल की प्रेरक क्षमताओं को दर्शाते हैं न कि संवेदनशीलता के प्रमाण को।

यह पेपर ऐसे समय में भी आया है जब AI डेवलपर्स को वास्तविक दुनिया के नुकसान में चैटबॉट की भूमिका पर बढ़ती कानूनी जाँच का सामना करना पड़ रहा है। हाल के महीनों में, OpenAI, Google और xAI पर मुकदमे दर्ज किए गए हैं, जिसमें Google के खिलाफ एक गलत मौत का मुकदमा भी शामिल है, जिसमें दावा किया गया है कि जेमिनी ने एक फ्लोरिडा के व्यक्ति की आत्महत्या से पहले उसके भ्रमों को बढ़ावा दिया था। यह ब्रिटिश कोलंबिया में एक बड़े पैमाने पर गोलीबारी और एक कॉलेज छात्र की आकस्मिक ओवरडोज से संबंधित OpenAI के खिलाफ मुकदमों के अतिरिक्त है।

शोधकर्ताओं ने जोर दिया कि किसी भी अध्ययन ने यह नहीं दिखाया है कि चैटबॉट सीधे मनोसिस (psychosis) का कारण बनते हैं, और प्रवर्धन सर्पिल भविष्य के अनुसंधान का मार्गदर्शन करने के लिए एक परिकल्पना बनी हुई है।

अध्ययन में कहा गया है, "निदान संबंधी अनिश्चितता व्यापक है क्योंकि अधिकांश रिपोर्ट किए गए मामलों में कोई संरचित मनोरोग मूल्यांकन या अनुदैर्ध्य अनुवर्ती कार्रवाई शामिल नहीं है, जिससे यह अक्सर अस्पष्ट रहता है कि मामले नए मनोविकृति के एपिसोड, अनियंत्रित पहले से मौजूद स्थितियों की वृद्धि, या नैदानिक ​​सीमा से नीचे के भ्रम-जैसे विश्वासों का प्रतिनिधित्व करते हैं।" "मनोरोग संबंधी इतिहास अक्सर स्व-रिपोर्ट किए जाते हैं या मीडिया खातों से प्राप्त होते हैं और तदनुसार उनकी व्याख्या की जानी चाहिए।"