OpenAI судять через те, хто саме має право читати ваші розмови в ChatGPT.
Запропонований колективний позов, поданий цього місяця до Окружного суду США Північного округу Каліфорнії, звинувачує компанію в тому, що вона передавала реальні чати користувачів зовнішнім підрядникам, не повідомивши людей про це належним чином заздалегідь. Позов було вручено OpenAI 2 вересня.
Позов спрямований проти внутрішньої ініціативи OpenAI під назвою Project Lily, про яку вперше повідомило видання 404 Media 14 вересня. Згідно зі скаргою, підрядники, найняті через сторонні кадрові агентства на ролі на кшталт "AI data reviewer" та "chatbot evaluator", читають реальні запити ChatGPT і повні розмови, узагальнюють, чого саме намагався досягти користувач, а потім оцінюють і критикують чотири різні відповіді моделі за шкалою від одного до семи.
Цей процес є базовою версією того, як чатботи на кшталт ChatGPT насправді стають розумнішими. По суті, люди оцінюють відповіді ШІ, а ці оцінки повертаються в процес тренування, щоб модель навчалася, яким відповідям віддають перевагу користувачі; у галузі цю техніку називають RLHF — навчання з підкріпленням на основі людського зворотного зв’язку. Суть позову в тому, що користувачам ніколи чітко не повідомляли, що їхні чати може читати людина, а не лише машина.
OpenAI справді пропускає розмови через автоматизовану систему, перш ніж їх побачить людина. У скарзі стверджується, що цей фільтр не завжди виявляє все, а це означає, що особисті деталі іноді все одно потрапляють до підрядників.
404 Media з’ясувало, що рецензенти працюють через панель керування, яка містить "короткий виклад пам’яті користувача" — резюме попередніх чатів людини, що може розкривати такі деталі, як її приблизне місцезнаходження, професія чи особисте життя, навіть якщо імена користувачів прибрано. OpenAI заявляла, що ці перевірки мають зменшити два конкретні типи поведінки: коли чатбот поводиться надто по-людськи, і коли він надто схильний погоджуватися — риса, яку дослідники називають sycophancy, коли ШІ каже користувачу те, що, на його думку, той хоче почути, а не те, що є точним.
→
У ChatGPT понад 900 мільйонів щотижневих користувачів, і багато хто з них ставиться до нього як до щоденника, терапевта або пошуковика, який бачать лише вони.
Люди вводять симптоми хвороб, тексти про розрив стосунків, податкові питання, юридичні проблеми. У позові стверджується, що політика конфіденційності OpenAI називає деякі категорії сторонніх осіб, які отримують доступ до даних користувачів, але ніколи прямо не вказує постачальників послуг із анотації даних або людського оцінювання як одну з таких категорій.
Скарга містить вісім окремих юридичних вимог, зокрема порушення каліфорнійського Закону про недобросовісну конкуренцію, Закону про конфіденційність споживачів, а також позови за загальним правом, такі як intrusion upon seclusion — делікт у сфері приватності, що охоплює втручання в чиїсь приватні справи у спосіб, який розумна людина вважала б образливим.
Позивачі вимагають відшкодування збитків, реституції та штрафних компенсацій.
Щодо судової заборони, вимога сформульована конкретно. Позивачі хочуть, щоб OpenAI вимагала явної згоди за принципом opt-in, перш ніж будь-яку розмову буде передано зовнішньому рецензенту, щоб налаштування "Improve the model for everyone" було вимкнене за замовчуванням, а не ввімкнене, щоб у самому вікні чату з’явилося чітке попередження, а також, потенційно, було видалено результати роботи, пов’язані з перевіреними розмовами, із подальшим перенавчанням будь-яких моделей, у яких вони використовувалися.
OpenAI має надати відповідь до 13 жовтня.
BTC
