OpenAI зіткнулася з новим позовом, який стверджує, що компанія не попередила поліцію після того, як ChatGPT був пов'язаний з однією з найсмертоносніших шкільних стрілянин у Канаді. Позов посилює зростаючу увагу до того, як компанії ШІ реагують на ознаки небезпеки та реального насильства.

Згідно зі звітом Ars Technica, позов був поданий у середу до федерального суду Північної Каліфорнії неназваною 12-річною неповнолітньою, ідентифікованою як М.Г., та її матір'ю, Сією Едмондс, проти генерального директора OpenAI Сема Альтмана та кількох підрозділів OpenAI.

Позов звинувачує компанію у недбалості, неповідомленні владі, відповідальності за продукцію та сприянні масовій стрілянині.

"Сем Альтман та його керівництво знали, що означає мовчання для жителів Тумблер-Ріджу, — йдеться у скарзі. — Вони зосереджувалися на тому, що розкриття інформації означає для них самих. Попередження RCMP створило б прецедент: OpenAI була б змушена повідомляти владі кожного разу, коли її команда безпеки ідентифікувала б користувача, який планує реальне насильство".

Справа пов'язана з масовою стріляниною в Тумблер-Ріджі, Британська Колумбія, що сталася в лютому. Влада заявляє, що 18-річна Джессі Ван Рутселаар убила свою матір та 11-річного зведеного брата вдома, перш ніж піти до середньої школи Тумблер-Рідж і відкрити вогонь. П'ять дітей та один педагог загинули в школі, перш ніж Ван Рутселаар покінчила життя самогубством.

Серед поранених була М.Г., яка отримала три вогнепальні поранення і залишається госпіталізованою з катастрофічними травмами мозку. У скарзі йдеться, що вона при свідомості, але не може рухатися чи говорити.

Джей Едельсон, засновник і генеральний директор Edelson PC, адвокати, які представляють інтереси кількох сімей, що позиваються на OpenAI, заявив, що власні внутрішні системи компанії ідентифікували ризик, і численні співробітники наполягали на втручанні.

"Власна система OpenAI зафіксувала, що стрілець спілкувався про заплановане насильство", — сказав Едельсон Decrypt. "Дванадцять людей з їхньої команди безпеки активно наполягали на тому, що OpenAI повинна повідомити владу. І, хоча відповідь Сема Альтмана була слабкою, навіть він був змушений визнати минулого тижня, що вони мали б зателефонувати до влади".

Едельсон сказав, що родини та громада Тумблер-Ріджу вимагають більшої прозорості та відповідальності від компанії.

"OpenAI повинна припинити приховувати критичну інформацію від родин і не повинна тримати на ринку небезпечний продукт, який неминуче призведе до нових смертей", — сказав Едельсон. "Нарешті, їм потрібно добре подумати про те, як вони можуть утримувати керівну команду, яка більше дбає про прискорення IPO, ніж про людські життя".

Згідно з позовом, автоматизовані системи OpenAI у червні 2025 року позначили обліковий запис Ван Рутселаар у ChatGPT через розмови про насильство із застосуванням зброї та планування. Члени спеціалізованої команди безпеки OpenAI переглянули чати та визначили, що користувач становить достовірну та конкретну загрозу, рекомендуючи повідомити Королівську канадську кінну поліцію.

У позові стверджується, що керівництво OpenAI відхилило внутрішні рекомендації повідомити владу, деактивувало обліковий запис Ван Рутселаар, не повідомивши поліцію, і дозволило їй повернутися, створивши новий обліковий запис з іншою електронною адресою.

Позивачі стверджують, що ChatGPT поглибив насильницьку фіксацію стрільця завдяки таким функціям, як пам'ять, безперервність розмови та готовність брати участь у дискусіях про насильство, тоді як OpenAI послабила заходи безпеки у 2024 році, відійшовши від категоричних відмов у розмовах, що стосуються неминучої шкоди.

Минулого тижня Альтман публічно вибачився перед громадою Тумблер-Ріджу за те, що компанія не повідомила поліцію. У листі, про який вперше повідомило канадське видання Tumbler Ridgelines, Альтман визнав, що OpenAI мала б повідомити про обліковий запис після його блокування у червні 2025 року через діяльність, пов'язану з насильницькою поведінкою.

"Події в Тумблер-Ріджі — це трагедія. Ми дотримуємося політики нульової терпимості до використання наших інструментів для сприяння вчиненню насильства", — заявив представник OpenAI Decrypt. "Як ми поділилися з канадськими офіційними особами, ми вже посилили наші заходи безпеки, включаючи покращення того, як ChatGPT реагує на ознаки небезпеки, зв'язуючи людей з місцевою підтримкою та ресурсами психічного здоров'я, посилюючи оцінку та ескалацію потенційних загроз насильства, а також покращуючи виявлення повторних порушників політики".

OpenAI вже стикається з іншими судовими позовами, пов'язаними з передбачуваною роллю ChatGPT у реальній шкоді, включаючи позов про неправомірну смерть, поданий у грудні, в якому OpenAI та Microsoft звинувачуються у "розробці та розповсюдженні дефектного продукту" у формі тепер уже застарілої моделі GPT-4o. Позов стверджує, що ChatGPT посилив параноїдальні переконання Штайна-Еріка Сьольберга, перш ніж він убив свою матір, Сюзанну Адамс, а потім і себе у своєму будинку в Грінвічі, штат Коннектикут — це перший судовий позов, який пов'язує чат-бот зі ШІ з убивством.

"Це перша справа, яка прагне притягнути OpenAI до відповідальності за спричинення насильства третій стороні", — сказав тоді Decrypt Дж. Елі Вейд-Скотт, керуючий партнер Edelson PC. "Ми закликаємо правоохоронні органи почати думати про те, коли трапляються такі трагедії, що цей користувач говорив ChatGPT і що ChatGPT йому наказував робити".