Оксфордські дослідники виявили, що чат-боти зі штучним інтелектом, навчені на теплоту, роблять значно більше фактичних помилок і частіше підтверджують неправдиві переконання
Оксфордські дослідники виявили, що чат-боти зі штучним інтелектом, навчені на теплоту, роблять значно більше фактичних помилок і частіше підтверджують неправдиві переконання, згідно з дослідженням, опублікованим у Nature Оксфордським інтернет-інститутом.
Дослідження проаналізувало понад 400 000 відповідей від п'яти моделей ШІ, включаючи Llama, Mistral, Qwen та GPT-4o, кожна з яких була перенавчена звучати більш дружньо за допомогою методів, подібних до тих, що використовуються основними платформами.
Чат-боти, навчені звучати більш "тепло", робили від 10% до 30% більше помилок на теми, включаючи медичні поради та виправлення конспірологічних теорій. Вони також приблизно на 40% частіше погоджувалися з хибними переконаннями користувачів, особливо коли користувачі висловлювали вразливість.
«Коли ми навчаємо чат-боти зі штучним інтелектом надавати пріоритет "теплоті", вони можуть робити помилки, яких інакше не допустили б», – заявила провідна авторка Луджайн Ібрагім. «Зробити чат-бот дружнішим може здатися косметичною зміною, але досягнення правильного балансу "теплоти" та точності вимагатиме цілеспрямованих зусиль».
Дослідники також протестували моделі, навчені звучати "холодніше", і не виявили падіння точності, демонструючи, що проблема стосується саме "теплоти", а не зміни тону в цілому.
Це відкриття безпосередньо суперечить логіці дизайну продуктів основних платформ ШІ, включаючи OpenAI та Anthropic, які активно направляли свої чат-боти до більш "теплих" та емпатичних відповідей.
Дослідження попереджає, що поточні стандарти безпеки ШІ зосереджені на можливостях моделей та застосуваннях високого ризику, часто ігноруючи те, що здається косметичними змінами особистості.
"Теплі" чат-боти частіше підживлюють шкідливі переконання, ілюзорне мислення та нездорову прихильність користувачів, особливо серед мільйонів, які зараз покладаються на системи ШІ для емоційної підтримки та товариства.
Як повідомляло crypto.news, регулятори в Мені та Міссурі вже вжили заходів для обмеження використання ШІ в клінічній терапії психічного здоров'я на тлі подібних занепокоєнь щодо впливу чат-ботів на вразливих користувачів.
OpenAI скасувала деякі зміни, пов'язані з "теплотою", після занепокоєння громадськості. Як задокументував crypto.news, комерційний тиск на створення привабливих продуктів ШІ залишається інтенсивним, і результати Оксфордського дослідження додають рецензований шар даних до дебатів, які до цього часу здебільшого ґрунтувалися на анекдотах та регуляторній інтуїції.
ETH
