OpenAI se confruntă cu un nou proces care susține că firma nu a avertizat poliția după ce ChatGPT a fost legat de unul dintre cele mai mortale atacuri armate din școli din Canada. Procesul adaugă la controlul crescând asupra modului în care companiile de AI răspund la semnele de primejdie și violență în lumea reală.
Potrivit unui raport al Ars Technica, procesul a fost depus miercuri la tribunalul federal din California de Nord de către o minoră nenumită, în vârstă de 12 ani, identificată ca M.G., și mama ei, Cia Edmonds, împotriva CEO-ului OpenAI, Sam Altman, și a mai multor entități OpenAI.
Procesul acuză compania de neglijență, eșecul de a avertiza autoritățile, responsabilitate pentru produs și că a contribuit la facilitarea atacului armat în masă.
„Sam Altman și echipa sa de conducere știau ce însemna tăcerea pentru cetățenii din Tumbler Ridge”, se arată în plângere. „Ei erau concentrați pe ceea ce însemna divulgarea pentru ei înșiși. Avertizarea RCMP ar fi creat un precedent: OpenAI ar fi fost obligată să notifice autoritățile de fiecare dată când echipa sa de siguranță identifica un utilizator care plănuia violență în lumea reală.”
Cazul provine dintr-un atac armat în masă în Tumbler Ridge, British Columbia, în februarie. Autoritățile spun că Jesse Van Rootselaar, în vârstă de 18 ani, și-a ucis mama și fratele vitreg de 11 ani acasă înainte de a merge la Școala Secundară Tumbler Ridge și de a deschide focul. Cinci copii și un educator au fost uciși la școală înainte ca Van Rootselaar să se sinucidă.
Printre răniți se numără M.G., care a fost împușcată de trei ori și rămâne spitalizată cu leziuni cerebrale catastrofale. Plângerea spune că este conștientă și lucidă, dar nu se poate mișca sau vorbi.
Jay Edelson, fondator și CEO al Edelson PC, avocații care reprezintă mai multe dintre familiile care dau în judecată OpenAI, a declarat că propriile sisteme interne ale companiei au identificat riscul, iar mai mulți angajați au insistat pentru intervenție.
„Propriul sistem al OpenAI a semnalat că atacatorul era implicat în comunicări despre violență planificată”, a declarat Edelson pentru Decrypt. „Doisprezece oameni din echipa lor de siguranță săreau în sus de bucurie, spunând că OpenAI trebuia să alerteze autoritățile. Și, deși răspunsul lui Sam Altman a fost slab, chiar și el a fost forțat să admită săptămâna trecută că ar fi trebuit să cheme autoritățile.”
Edelson a spus că familiile și comunitatea Tumbler Ridge cer mai multă transparență și responsabilitate din partea companiei.
„OpenAI ar trebui să înceteze să ascundă informații critice de familii și nu ar trebui să mențină pe piață un produs periculos, care este destinat să ducă la mai multe decese”, a spus Edelson. „În cele din urmă, trebuie să se gândească serios cum pot menține o echipă de conducere care se preocupă mai mult de accelerarea unei IPO decât de viețile umane.”
Potrivit procesului, sistemele automate ale OpenAI au semnalat contul ChatGPT al lui Van Rootselaar în iunie 2025 pentru conversații care implicau violența armată și planificare. Membrii echipei specializate de siguranță a OpenAI au revizuit chat-urile și au stabilit că utilizatorul reprezenta o amenințare credibilă și specifică, recomandând ca Poliția Regală Canadiană Călare să fie notificată.
Procesul susține că liderii OpenAI au ignorat recomandările interne de a alerta autoritățile, au dezactivat contul lui Van Rootselaar fără a notifica poliția și i-au permis să revină creând un nou cont cu o adresă de e-mail diferită.
Reclamanții susțin că ChatGPT a adâncit fixația violentă a atacatorului prin funcții precum memoria, continuitatea conversațională și disponibilitatea de a se angaja în discuții despre violență, în timp ce OpenAI a slăbit măsurile de siguranță în 2024, îndepărtându-se de refuzurile categorice în conversațiile care implicau daune iminente.
Săptămâna trecută, Altman și-a cerut scuze public comunității Tumbler Ridge pentru eșecul companiei de a alerta poliția. Într-o scrisoare raportată pentru prima dată de publicația canadiană Tumbler Ridgelines, Altman a recunoscut că OpenAI ar fi trebuit să raporteze contul după ce l-a interzis în iunie 2025 pentru activități legate de conduită violentă.
„Evenimentele din Tumbler Ridge sunt o tragedie. Avem o politică de toleranță zero pentru utilizarea instrumentelor noastre pentru a asista la comiterea de violență”, a declarat un purtător de cuvânt al OpenAI pentru Decrypt. „Așa cum am împărtășit oficialilor canadieni, am consolidat deja măsurile noastre de siguranță, inclusiv îmbunătățirea modului în care ChatGPT răspunde la semnele de primejdie, conectarea oamenilor cu sprijin local și resurse de sănătate mintală, consolidarea modului în care evaluăm și escaladăm potențialele amenințări de violență și îmbunătățirea detectării infractorilor repetate ai politicilor.”
OpenAI se confruntă deja cu alte procese legate de rolul presupus al ChatGPT în daunele din lumea reală, inclusiv un caz de deces nedrept depus în decembrie, acuzând OpenAI și Microsoft de „proiectarea și distribuirea unui produs defect” sub forma modelului acum depreciat GPT-4o. Procesul susține că ChatGPT a consolidat convingerile paranoice ale lui Stein-Erik Soelberg înainte ca acesta să-și ucidă mama, Suzanne Adams, și apoi pe el însuși la domiciliul lor din Greenwich, Connecticut – marcând primul proces care leagă un chatbot AI de o omucidere.
„Acesta este primul caz care încearcă să tragă la răspundere OpenAI pentru cauzarea de violență unei terțe părți”, a declarat J. Eli Wade-Scott, partener director la Edelson PC, pentru Decrypt la momentul respectiv. „Îndemnăm organele de drept să înceapă să se gândească, atunci când au loc astfel de tragedii, la ce spunea utilizatorul către ChatGPT și ce îi spunea ChatGPT să facă.”
