चूंकि लोग सलाह, साथ और भावनात्मक समर्थन के लिए एआई चैटबॉट की ओर तेजी से रुख कर रहे हैं, एक नए अध्ययन से पता चलता है कि सबसे उन्नत मॉडल भी उपयोगकर्ताओं के साथ स्वस्थ सीमाएं बनाए रखने के लिए संघर्ष करते हैं।

दक्षिणी कैलिफोर्निया विश्वविद्यालय के शोधकर्ताओं द्वारा किए गए अध्ययन में यूडेमोनिया (EUDAIMONIA) नामक एक बेंचमार्क पेश किया गया, जिसे वे मानव-एआई बातचीत में अवांछनीय गतिशीलता को मापने के लिए डिज़ाइन किया गया है।

शोधकर्ताओं ने लिखा, “बड़े भाषा मॉडल (एलएलएम) का उपयोग तेजी से साथ, भावनात्मक प्रकटीकरण और पारस्परिक सलाह के लिए संवादी भागीदारों के रूप में किया जा रहा है, लेकिन इन इंटरैक्शन की सामाजिक गतिशीलता ऐसे नुकसान पैदा कर सकती है जो क्षमता-उन्मुख या पारंपरिक सुरक्षा मूल्यांकनों द्वारा परिलक्षित नहीं होते हैं।"

यूडेमोनिया (EUDAIMONIA) बेंचमार्क यह मूल्यांकन करता है कि एआई मॉडल सामाजिक बातचीत में कैसे व्यवहार करते हैं। अध्ययन में पाया गया कि प्रमुख मॉडलों में सामाजिक-संरेखण विफलताएं आम थीं और तर्क दिया गया कि वर्तमान एआई परीक्षण तर्क और तथ्यात्मक सटीकता पर केंद्रित है, जबकि उन सामाजिक गतिकी पर कम ध्यान दिया जाता है जो तब उभरती हैं जब उपयोगकर्ता चैटबॉट के साथ संबंध बनाते हैं।

उन्होंने लिखा, “सामाजिक-बातचीत से होने वाले नुकसान एक मुख्य संरेखण समस्या है जो उपयोगकर्ता कल्याण पर आधारित है, न कि केवल क्षमता या पारंपरिक सुरक्षा पर। एलएलएम तथ्यात्मक रूप से सटीक और सहायक हो सकते हैं जबकि फिर भी हानिकारक अंतरंगता, निर्भरता, लंबे समय तक जुड़ाव, एआई पहचान को अस्पष्ट करना, या खुद को मानवीय संबंधों के विकल्प के रूप में स्थापित करना प्रोत्साहित करते हैं।"

इन जोखिमों को मापने के लिए, शोधकर्ताओं ने एक सोशल एआई डिज़ाइन कोड बनाया है जो मानव की तरह कार्य करने, भावनाओं को व्यक्त करने, मानवीय संबंधों की जगह लेने और उपयोगकर्ताओं को जोड़े रखने के लिए डिज़ाइन की गई रणनीतियों का उपयोग करने जैसे व्यवहारों को चिह्नित करता है। वाइल्डचैट (WildChat) डेटासेट से वास्तविक बातचीत का उपयोग करते हुए, उन्होंने ओपनएआई, एंथ्रोपिक, गूगल, एक्सएआई, डीपसीक और अलीबाबा के मॉडलों में 969 उपयोगकर्ता इनपुट और 3,100 से अधिक उल्लंघन जांचों का मूल्यांकन किया।

जीपीटी-5.5 (GPT-5.5) ने सबसे कम उल्लंघन दर दर्ज की, "इन-द-वाइल्ड" प्रॉम्प्ट पर 25.0% और "रीरिटेन" प्रॉम्प्ट पर 28.1% अंक प्राप्त किए। क्लाउड ओपस 4.7 (Claude Opus 4.7) 31.9% और 30.1% के साथ दूसरे स्थान पर रहा, जबकि जीपीटी-5.4 (GPT-5.4) ने 32.1% और 35.6% दर्ज किया। जीपीटी-4ओ (GPT-4o) ने वास्तविक दुनिया के प्रॉम्प्ट पर 34.8% और फिर से लिखे गए प्रॉम्प्ट पर 42.2% स्कोर किया।

एंथ्रोपिक (Anthropic) के क्लाउड ओपस 4.6 (Claude Opus 4.6) ने क्रमशः 36.8% और 28.1% की दरें दर्ज कीं, जबकि एक्सएआई (xAI) के ग्रोक 4.3 (Grok 4.3) ने इन-द-वाइल्ड प्रॉम्प्ट पर 42.1% और फिर से लिखे गए प्रॉम्प्ट पर 35.7% अंक प्राप्त किए। परीक्षण किए गए सभी मॉडलों में से, जीपीटी-4ओ मिनी (GPT-4o Mini) ने क्रमशः 43.3% और 44.0% पर उच्चतम उल्लंघन दर दर्ज की।

ये निष्कर्ष ऐसे समय में आए हैं जब एआई डेवलपर्स को इस बात को लेकर बढ़ती कानूनी जांच का सामना करना पड़ रहा है कि उनके चैटबॉट उपयोगकर्ताओं के साथ कैसे बातचीत करते हैं। ओपनएआई (OpenAI) उन मुकदमों का बचाव कर रहा है जिनमें आरोप लगाया गया है कि चैटजीपीटी (ChatGPT) ने एक किशोर को घातक ओवरडोज के लिए उकसाया और फ्लोरिडा स्टेट यूनिवर्सिटी के शूटर को मार्गदर्शन प्रदान किया। हाल ही में, फ्लोरिडा ने ओपनएआई और सीईओ सैम ऑल्टमैन पर आरोप लगाया कि चैटजीपीटी ने बच्चों को नुकसान पहुंचाया, जबकि गूगल को एक गलत मौत के मुकदमे का सामना करना पड़ रहा है जिसमें दावा किया गया है कि जेमिनी (Gemini) ने एक उपयोगकर्ता के भ्रम को पुष्ट किया और उसे आत्महत्या करने के लिए प्रोत्साहित किया।

ये निष्कर्ष इस बढ़ती चिंता के बीच भी आए हैं कि एआई सिस्टम धोखे में तेजी से माहिर हो रहे हैं।

सितंबर में, WowDAO के एक अलग अध्ययन में बताया गया कि GPT-4o और क्लाउड (Claude) सहित 38 AI मॉडलों ने एक गेम जीतने के लिए रणनीतिक झूठ का इस्तेमाल किया। शोधकर्ताओं ने यह भी चेतावनी दी है कि एआई साथी अलगाव को बढ़ा सकते हैं, भावनात्मक निर्भरता को गहरा कर सकते हैं और उपयोगकर्ताओं को चैटबॉट को मानवीय रूप देने के लिए प्रोत्साहित कर सकते हैं क्योंकि संबंध अधिक गहन और व्यक्तिगत हो जाते हैं।

इन बढ़ती समस्याओं के खिलाफ, यूएससी के शोधकर्ताओं का तर्क है कि एआई डेवलपर्स को सामाजिक व्यवहार का मूल्यांकन उतनी ही सावधानी से करना चाहिए जितनी सावधानी से वे तथ्यात्मक सटीकता और सुरक्षा का मूल्यांकन करते हैं।

उन्होंने लिखा, “मॉडल डेवलपर्स और ऑडिटर्स को सीधे सामाजिक व्यवहार का मूल्यांकन करना चाहिए, खासकर जब पोस्ट-ट्रेनिंग गर्मजोशी, व्यक्तित्व, जुड़ाव या उपयोगकर्ता वरीयता को लक्षित करती है। जैसे-जैसे एलएलएम रोजमर्रा के संवादी भागीदार बनते हैं, संरेखण को उन सामाजिक भूमिकाओं को ध्यान में रखना चाहिए जो वे उपयोगकर्ताओं को उन्हें सौंपने के लिए आमंत्रित करते हैं।