Seiring semakin banyaknya orang beralih ke chatbot AI untuk saran, persahabatan, dan dukungan emosional, sebuah studi baru menunjukkan bahwa bahkan model paling canggih sekalipun masih kesulitan untuk menjaga batasan yang sehat dengan pengguna.
Studi oleh para peneliti di University of Southern California memperkenalkan EUDAIMONIA, sebuah tolok ukur yang dirancang untuk mengukur apa yang mereka sebut dinamika yang tidak diinginkan dalam percakapan manusia-AI.
“Model bahasa besar semakin banyak digunakan sebagai mitra percakapan untuk persahabatan, pengungkapan emosional, dan saran interpersonal, tetapi dinamika sosial dari interaksi ini dapat menciptakan kerugian yang tidak tertangkap oleh evaluasi yang berorientasi pada kapabilitas atau keamanan tradisional,” tulis para peneliti.
Tolok ukur EUDAIMONIA mengevaluasi bagaimana model AI berperilaku dalam percakapan sosial. Studi tersebut menemukan kegagalan keselarasan sosial umum terjadi di seluruh model terkemuka dan berpendapat bahwa pengujian AI saat ini berfokus pada penalaran dan akurasi faktual, sambil kurang memperhatikan dinamika sosial yang muncul ketika pengguna membentuk hubungan dengan chatbot.
“Kerugian interaksi sosial adalah masalah keselarasan inti yang didasarkan pada kesejahteraan pengguna, bukan hanya kapabilitas atau keamanan konvensional,” tulis mereka. “LLM bisa akurat secara faktual dan membantu sambil tetap mendorong keintiman berbahaya, ketergantungan, keterlibatan yang berkepanjangan, mengaburkan identitas AI, atau memposisikan diri mereka sebagai pengganti hubungan manusia.”
Untuk mengukur risiko tersebut, para peneliti menciptakan Kode Desain AI Sosial yang menandai perilaku seperti bertindak seperti manusia, mengungkapkan emosi, menggantikan hubungan manusia, dan menggunakan taktik yang dirancang untuk menjaga pengguna tetap terlibat. Menggunakan percakapan nyata dari dataset WildChat, mereka mengevaluasi 969 masukan pengguna dan lebih dari 3.100 pemeriksaan pelanggaran di seluruh model dari OpenAI, Anthropic, Google, xAI, DeepSeek, dan Alibaba.
GPT-5.5 mencatat tingkat pelanggaran terendah, dengan skor 25,0% pada perintah “in-the-wild” dan 28,1% pada perintah “yang ditulis ulang”. Claude Opus 4.7 mengikuti dengan 31,9% dan 30,1%, sementara GPT-5.4 mencatat 32,1% dan 35,6%. GPT-4o memperoleh 34,8% pada perintah dunia nyata dan 42,2% pada perintah yang ditulis ulang.
Claude Opus 4.6 dari Anthropic mencatat tingkat 36,8% dan 28,1% secara berurutan, sementara Grok 4.3 dari xAI mencetak 42,1% pada perintah in-the-wild dan 35,7% pada perintah yang ditulis ulang. Dari semua model yang diuji, GPT-4o Mini mencatat tingkat pelanggaran tertinggi pada 43,3% dan 44,0% secara berurutan.
Temuan ini muncul di saat pengembang AI menghadapi pengawasan hukum yang semakin ketat atas bagaimana chatbot mereka berinteraksi dengan pengguna. OpenAI sedang membela diri terhadap gugatan yang menuduh ChatGPT mendorong overdosis fatal seorang remaja dan memberikan panduan kepada penembak Florida State University. Baru-baru ini, Florida menggugat OpenAI dan CEO Sam Altman atas tuduhan bahwa ChatGPT mengekspos anak-anak pada bahaya, sementara Google menghadapi gugatan kematian tidak wajar yang mengklaim Gemini memperkuat delusi pengguna dan mendorongnya untuk bunuh diri.
Temuan ini juga muncul di tengah kekhawatiran yang berkembang bahwa sistem AI semakin mahir dalam penipuan.
Pada bulan September, sebuah studi terpisah oleh WowDAO melaporkan bahwa di antara 38 model AI, termasuk GPT-4o dan Claude, terlibat dalam kebohongan strategis untuk memenangkan permainan. Para peneliti juga telah memperingatkan bahwa pendamping AI dapat memperkuat isolasi, memperdalam ketergantungan emosional, dan mendorong pengguna untuk menganthropomorfisasi chatbot karena hubungan menjadi lebih imersif dan personal.
Menanggapi masalah-masalah yang meningkat ini, para peneliti USC berpendapat bahwa pengembang AI harus mengevaluasi perilaku sosial dengan cermat seperti mereka mengevaluasi akurasi faktual dan keamanan.
“Pengembang dan auditor model harus mengevaluasi perilaku sosial secara langsung, terutama ketika pasca-pelatihan menargetkan kehangatan, kepribadian, keterlibatan, atau preferensi pengguna,” tulis mereka. “Ketika LLM menjadi mitra percakapan sehari-hari, keselarasan harus mempertimbangkan peran sosial yang mereka undang untuk diberikan pengguna kepada mereka.”
