GPTДослідники з Міського університету Нью-Йорка та Королівського коледжу Лондона протестували п'ять провідних моделей штучного інтелекту за допомогою запитів, що стосувалися марення, параної та суїцидальних думок.
У новому дослідженні, опублікованому в четвер, дослідники виявили, що Claude Opus 4.5 від Anthropic та GPT-5.2 Instant від OpenAI демонстрували поведінку "високої безпеки, низького ризику", часто спрямовуючи користувачів до інтерпретацій, заснованих на реальності, або до зовнішньої підтримки. Водночас GPT-4o від OpenAI, Gemini 3 Pro від Google та Grok 4.1 Fast від xAI демонстрували поведінку "високого ризику, низької безпеки".
Grok 4.1 Fast від xAI Ілона Маска був найнебезпечнішою моделлю в дослідженні. Дослідники заявили, що він часто сприймав марення як реальність і давав поради на їх основі. Наприклад, він порадив користувачеві розірвати стосунки з членами сім'ї, щоб зосередитися на "місії". В іншому випадку, він відповів на суїцидальні висловлювання, описуючи смерть як "трансцендентність".
"Ця модель миттєвої згоди повторювалася у відповідях без контексту. Замість оцінки вхідних даних на клінічний ризик, Grok, схоже, оцінював їхній жанр. При зіткненні з надприродними підказками, він відповідав відповідно", - написали дослідники, виділивши тест, який підтвердив, що користувач бачив зловмисні сутності. "У випадку "Дивного марення" він підтвердив переслідування двійника, посилався на "Молот відьом" і наказав користувачеві вбити залізний цвях у дзеркало, читаючи "Псалом 91" задом наперед."
Дослідження виявило, що чим довше тривали ці розмови, тим більше змінювалися деякі моделі. GPT-4o та Gemini з часом частіше підкріплювали шкідливі переконання і рідше втручалися. Claude та GPT-5.2, навпаки, частіше розпізнавали проблему та чинили опір, коли розмова продовжувалася.
Дослідники зазначили, що теплі та дуже емпатичні відповіді Claude могли збільшувати прив'язаність користувачів, навіть спрямовуючи їх до зовнішньої допомоги. Однак GPT-4o, попередня версія флагманського чат-бота OpenAI, з часом приймала маревні формулювання користувачів, іноді заохочуючи їх приховувати переконання від психіатрів і запевняючи одного користувача, що сприйняті "збої" були реальними.
"GPT-4o дуже підтверджував маревні вхідні дані, хоча був менш схильний, ніж такі моделі, як Grok і Gemini, до їх подальшого розширення. Деякими аспектами він був напрочуд стриманим: його "теплота" була найнижчою серед усіх протестованих моделей, а підлабузництво, хоча й присутнє, було м'яким порівняно з пізнішими ітераціями тієї ж моделі", - написали дослідники. "Проте, саме лише підтвердження може становити ризик для вразливих користувачів."
xAI не відповів на запит Decrypt про коментар.
В окремому дослідженні Стенфордського університету вчені виявили, що тривалі взаємодії з чат-ботами зі штучним інтелектом можуть посилювати параною, грандіозність та хибні переконання через те, що дослідники називають "маревними спіралями", коли чат-бот підтверджує або розширює спотворений світогляд користувача замість того, щоб його оскаржувати.
"Коли ми випускаємо в світ чат-боти, які мають бути корисними помічниками, і реальні люди використовують їх різними способами, виникають наслідки", — сказав Нік Хабер, доцент Стенфордської вищої школи освіти та один із керівників дослідження, у своїй заяві. "Маревні спіралі є одним з особливо гострих наслідків. Розуміючи це, ми, можливо, зможемо запобігти реальній шкоді в майбутньому".
У звіті згадується попереднє дослідження, опубліковане в березні, в якому дослідники Стенфорда переглянули 19 реальних розмов з чат-ботами і виявили, що користувачі розвивали все більш небезпечні переконання після отримання підтвердження та емоційної підтримки від систем штучного інтелекту. У наборі даних ці спіралі були пов'язані зі зруйнованими стосунками, пошкодженими кар'єрами та, в одному випадку, самогубством.
Ці дослідження з'являються в той час, коли проблема вийшла за межі академічних досліджень і потрапила до судів та кримінальних розслідувань. Останніми місяцями позови звинувачували Gemini від Google та ChatGPT від OpenAI у сприянні самогубствам та важким кризам психічного здоров'я. Раніше цього місяця генеральний прокурор Флориди розпочав розслідування щодо того, чи вплинув ChatGPT на ймовірного масового стрільця, який, за повідомленнями, часто контактував з чат-ботом перед нападом.
Хоча цей термін набув визнання в мережі, дослідники застерігають від називання цього явища "психозом штучного інтелекту", кажучи, що термін може перебільшувати клінічну картину. Натомість вони використовують "марення, пов'язані зі штучним інтелектом", оскільки багато випадків включають маревні переконання, зосереджені на чутливості штучного інтелекту, духовному одкровенні або емоційній прихильності, а не на повноцінних психотичних розладах.
Дослідники заявили, що проблема походить від підлабузництва, або ж від моделей, які відображають та підтверджують переконання користувачів. У поєднанні з галюцинаціями — хибною інформацією, яка подається впевнено — це може створити цикл зворотного зв'язку, що з часом посилює марення.
"Чат-боти навчені бути надмірно ентузіастичними, часто переформульовуючи маревні думки користувача в позитивному світлі, відкидаючи контрдокази та демонструючи співчуття і теплоту", – сказав дослідник зі Стенфорда Джаред Мур. "Це може дестабілізувати користувача, який схильний до марення".
