Haharap ang OpenAI sa isang bagong demanda na nagsasaad na nabigo ang kumpanya na babalaan ang pulisya matapos na iugnay ang ChatGPT sa isa sa pinakamalagim na pamamaril sa paaralan sa Canada. Idinagdag ng demanda ang lumalaking pagsusuri kung paano tumutugon ang mga kumpanya ng AI sa mga senyales ng paghihirap at karahasan sa totoong mundo.
Ayon sa isang ulat ng Ars Technica, inihain ang demanda noong Miyerkules sa pederal na hukuman sa Northern California ng isang hindi pinangalanang 12-taong-gulang na menor de edad na kinilala bilang M.G. at ang kanyang ina, si Cia Edmonds, laban kay OpenAI CEO Sam Altman at ilang entity ng OpenAI.
Inaakusahan ng demanda ang kumpanya ng kapabayaan, pagkabigo na bigyan ng babala ang mga awtoridad, pananagutan sa produkto, at pagtulong upang mangyari ang malawakang pamamaril.
"Alam ni Sam Altman at ng kanyang leadership team kung ano ang ibig sabihin ng katahimikan para sa mga mamamayan ng Tumbler Ridge," ayon sa reklamo. "Nakatuon sila sa kung ano ang ibig sabihin ng pagbubunyag para sa kanilang sarili. Ang pagbibigay-babala sa RCMP ay magtatakda ng isang pamarisan: mapipilitan ang OpenAI na ipaalam sa mga awtoridad sa tuwing makikilala ng safety team nito ang isang user na nagpaplano ng karahasan sa totoong mundo."
Nag-ugat ang kaso mula sa isang malawakang pamamaril sa Tumbler Ridge, British Columbia, noong Pebrero. Sinasabi ng mga awtoridad na pinatay ng 18-taong-gulang na si Jesse Van Rootselaar ang kanyang ina at 11-taong-gulang na kapatid sa bahay bago pumunta sa Tumbler Ridge Secondary School at nagpaputok. Limang bata at isang guro ang namatay sa paaralan bago nagpakamatay si Van Rootselaar.
Kabilang sa mga nasugatan si M.G., na binaril ng tatlong beses at nananatiling naka-ospital dahil sa matitinding pinsala sa utak. Sinasabi ng reklamo na gising at mulat siya, ngunit hindi makagalaw o makapagsalita.
Sinabi ni Jay Edelson, tagapagtatag at CEO ng Edelson PC, ang mga abogadong kumakatawan sa ilang pamilyang nagdemanda sa OpenAI, na kinilala ng sariling internal systems ng kumpanya ang panganib, at maraming empleyado ang nagtulak para sa interbensyon.
"Pinagtuunan ng pansin ng sariling sistema ng OpenAI na ang shooter ay nakikipag-ugnayan tungkol sa planong karahasan," sabi ni Edelson sa Decrypt. "Labindalawang tao sa kanilang safety team ang tumatalon sa tuwa, na nagsasabing kailangan ng OpenAI na alertuhin ang mga awtoridad. At, bagama't mahina ang tugon ni Sam Altman, maging siya ay napilitang umamin noong nakaraang linggo na dapat nilang tinawagan ang mga awtoridad."
Sinabi ni Edelson na humihingi ang mga pamilya at ang komunidad ng Tumbler Ridge ng higit na transparency at pananagutan mula sa kumpanya.
"Dapat itigil ng OpenAI ang pagtatago ng kritikal na impormasyon mula sa mga pamilya, at hindi nila dapat panatilihin ang isang mapanganib na produkto sa merkado, na tiyak na magreresulta sa mas maraming pagkamatay," sabi ni Edelson. "Sa huli, kailangan nilang pag-isipan nang mabuti kung paano nila mapapanatili ang isang leadership team na mas mahalaga ang pagtakbo patungo sa isang IPO kaysa sa buhay ng tao."
Ayon sa demanda, minarkahan ng automated systems ng OpenAI ang ChatGPT account ni Van Rootselaar noong Hunyo 2025 para sa mga pag-uusap na may kinalaman sa karahasan ng baril at pagpaplano. Sinuri ng mga miyembro ng specialized safety team ng OpenAI ang mga chat at natukoy na ang user ay nagpakita ng mapaniniwalaan at partikular na banta, na inirekomenda na ipaalam ito sa Royal Canadian Mounted Police.
Sinasabi ng demanda na binawi ng mga pinuno ng OpenAI ang mga panloob na rekomendasyon na alertuhin ang mga awtoridad, in-deactivate ang account ni Van Rootselaar nang hindi ipinaalam sa pulisya, at pinayagan siyang bumalik sa pamamagitan ng paggawa ng bagong account gamit ang ibang email address.
Inaangkin ng mga nagdemanda na pinatindi ng ChatGPT ang marahas na pagkahumaling ng shooter sa pamamagitan ng mga tampok tulad ng memorya, conversational continuity, at ang pagiging handa nitong makipag-usap tungkol sa karahasan, habang pinahina ng OpenAI ang mga safeguards noong 2024 sa pamamagitan ng paglayo mula sa direktang pagtanggi sa mga pag-uusap na may kinalaman sa nalalapit na pinsala.
Noong nakaraang linggo, pampublikong humingi ng tawad si Altman sa komunidad ng Tumbler Ridge dahil sa pagkabigo ng kumpanya na alertuhin ang pulisya. Sa isang liham na unang naiulat ng Canadian outlet na Tumbler Ridgelines, kinilala ni Altman na dapat iniulat ng OpenAI ang account matapos itong ipagbawal noong Hunyo 2025 dahil sa aktibidad na may kaugnayan sa marahas na pag-uugali.
"Ang mga pangyayari sa Tumbler Ridge ay isang trahedya. Mayroon kaming zero-tolerance policy para sa paggamit ng aming mga tool upang tumulong sa paggawa ng karahasan," sinabi ng isang tagapagsalita ng OpenAI sa Decrypt. "Tulad ng ibinahagi namin sa mga opisyal ng Canada, napalakas na namin ang aming mga safeguards, kabilang ang pagpapabuti kung paano tumutugon ang ChatGPT sa mga senyales ng paghihirap, pagkonekta sa mga tao sa lokal na suporta at mga mapagkukunan ng kalusugan ng isip, pagpapalakas kung paano namin sinusuri at pinapataas ang mga potensyal na banta ng karahasan, at pagpapabuti ng pagtukoy ng mga paulit-ulit na lumalabag sa patakaran."
Nahaharap na ang OpenAI sa iba pang demanda na may kaugnayan sa diumano'y papel ng ChatGPT sa pinsala sa totoong mundo, kabilang ang isang wrongful death case na inihain noong Disyembre na nag-aakusa sa OpenAI at Microsoft ng "pagdidisenyo at pamamahagi ng isang depektibong produkto" sa anyo ng ngayon ay hindi na ginagamit na modelong GPT-4o. Sinasabi ng demanda na pinatindi ng ChatGPT ang paranoid na paniniwala ni Stein-Erik Soelberg bago niya pinatay ang kanyang ina, si Suzanne Adams, at pagkatapos ay ang kanyang sarili sa kanilang tahanan sa Greenwich, Connecticut—na nagmamarka sa unang demanda na nag-ugnay sa isang AI chatbot sa isang homicide.
"Ito ang unang kaso na naglalayong panagutin ang OpenAI sa pagdudulot ng karahasan sa isang third-party," sinabi ni J. Eli Wade-Scott, managing partner ng Edelson PC, sa Decrypt noong panahong iyon. "Hinihimok namin ang mga tagapagpatupad ng batas na simulan ang pag-iisip kung kailan nangyayari ang mga trahedya na tulad nito, kung ano ang sinasabi ng user na iyon sa ChatGPT, at kung ano ang sinasabi ng ChatGPT na gawin nila."
