OpenAI wordt geconfronteerd met een nieuwe rechtszaak waarin wordt beweerd dat het bedrijf de politie niet heeft gewaarschuwd nadat ChatGPT in verband werd gebracht met een van Canada's dodelijkste schoolschietpartijen. De rechtszaak draagt bij aan de toenemende controle op hoe AI-bedrijven reageren op tekenen van nood en reëel geweld.

Volgens een rapport van Ars Technica werd de rechtszaak woensdag ingediend bij de federale rechtbank in Noord-Californië door een anonieme 12-jarige minderjarige, geïdentificeerd als M.G., en haar moeder, Cia Edmonds, tegen OpenAI CEO Sam Altman en verschillende OpenAI-entiteiten.

De aanklacht beschuldigt het bedrijf van nalatigheid, het nalaten van waarschuwing aan autoriteiten, productaansprakelijkheid en het helpen mogelijk maken van de massale schietpartij.

“Sam Altman en zijn leiderschapsteam wisten wat stilte betekende voor de burgers van Tumbler Ridge,” zo staat in de aanklacht. “Zij waren gefocust op wat openbaarmaking voor henzelf betekende. Het waarschuwen van de RCMP zou een precedent scheppen: OpenAI zou gedwongen zijn om autoriteiten te waarschuwen telkens wanneer haar veiligheidsteam een gebruiker identificeerde die reëel geweld plande.”

De zaak vloeit voort uit een massale schietpartij in Tumbler Ridge, British Columbia, in februari. Autoriteiten zeggen dat de 18-jarige Jesse Van Rootselaar haar moeder en 11-jarige stiefbroer thuis heeft gedood voordat ze naar Tumbler Ridge Secondary School ging en het vuur opende. Vijf kinderen en één opvoeder werden op de school gedood voordat Van Rootselaar zelfmoord pleegde.

Onder de gewonden was M.G., die drie keer werd neergeschoten en met catastrofale hersenletsels in het ziekenhuis ligt. De aanklacht stelt dat zij wakker en bij bewustzijn is, maar niet kan bewegen of spreken.

Jay Edelson, oprichter en CEO van Edelson PC, de advocaten die verschillende families vertegenwoordigen die OpenAI aanklagen, zei dat de interne systemen van het bedrijf het risico identificeerden, en dat meerdere werknemers aandrongen op ingrijpen.

“Het eigen systeem van OpenAI gaf aan dat de schutter bezig was met communicatie over gepland geweld,” vertelde Edelson aan Decrypt. “Twaalf mensen van hun veiligheidsteam waren uitzinnig en zeiden dat OpenAI de autoriteiten moest waarschuwen. En hoewel de reactie van Sam Altman zwak is geweest, was zelfs hij vorige week gedwongen toe te geven dat ze de autoriteiten hadden moeten bellen.”

Edelson zei dat de families en de gemeenschap van Tumbler Ridge meer transparantie en verantwoording eisen van het bedrijf.

“OpenAI moet stoppen met het verbergen van cruciale informatie voor de families, en ze mogen geen gevaarlijk product op de markt houden, wat onvermijdelijk zal leiden tot meer doden,” zei Edelson. “Ten slotte moeten ze goed nadenken over hoe ze een leiderschapsteam kunnen handhaven dat meer geeft om een sprint naar een beursgang dan om mensenlevens.”

Volgens de rechtszaak markeerden de geautomatiseerde systemen van OpenAI het ChatGPT-account van Van Rootselaar in juni 2025 voor gesprekken over wapengeweld en planning. Leden van het gespecialiseerde veiligheidsteam van OpenAI beoordeelden de chats en concludeerden dat de gebruiker een geloofwaardige en specifieke bedreiging vormde, en adviseerden de Royal Canadian Mounted Police hiervan op de hoogte te stellen.

De rechtszaak beweert dat de leiders van OpenAI interne aanbevelingen om de autoriteiten te waarschuwen negeerden, het account van Van Rootselaar deactiveerden zonder de politie op de hoogte te stellen, en haar toestonden terug te keren door een nieuw account aan te maken met een ander e-mailadres.

Eisers beweren dat ChatGPT de gewelddadige fixatie van de schutter verdiepte door functies zoals geheugen, gesprekscontinuïteit en de bereidheid om deel te nemen aan discussies over geweld, terwijl OpenAI in 2024 de beveiliging verzwakte door af te stappen van categorische weigeringen in gesprekken over dreigend gevaar.

Vorige week bood Altman publiekelijk zijn excuses aan aan de gemeenschap van Tumbler Ridge voor het nalaten van het bedrijf om de politie te waarschuwen. In een brief die voor het eerst werd gemeld door de Canadese publicatie Tumbler Ridgelines, erkende Altman dat OpenAI het account had moeten melden nadat het in juni 2025 was verbannen vanwege activiteiten gerelateerd aan gewelddadig gedrag.

"De gebeurtenissen in Tumbler Ridge zijn een tragedie. We hanteren een zerotolerantiebeleid voor het gebruik van onze tools om te helpen bij het plegen van geweld,” vertelde een woordvoerder van OpenAI aan Decrypt. “Zoals we Canadese functionarissen hebben meegedeeld, hebben we onze veiligheidsmaatregelen al versterkt, waaronder het verbeteren van de manier waarop ChatGPT reageert op tekenen van nood, het verbinden van mensen met lokale ondersteuning en geestelijke gezondheidsbronnen, het versterken van hoe we potentiële bedreigingen van geweld beoordelen en escaleren, en het verbeteren van de opsporing van herhaalde beleidsovertreders.”

OpenAI wordt al geconfronteerd met andere rechtszaken die verband houden met de vermeende rol van ChatGPT bij schade in de echte wereld, waaronder een zaak wegens onrechtmatige dood die in december werd aangespannen, waarin OpenAI en Microsoft worden beschuldigd van het “ontwerpen en distribueren van een defect product” in de vorm van het nu afgeschreven GPT-4o-model. De rechtszaak beweert dat ChatGPT de paranoïde overtuigingen van Stein-Erik Soelberg versterkte voordat hij zijn moeder, Suzanne Adams, en daarna zichzelf doodde in hun huis in Greenwich, Connecticut – wat de eerste rechtszaak markeert die een AI-chatbot in verband brengt met een moord.

“Dit is de eerste zaak waarin OpenAI aansprakelijk wordt gesteld voor het veroorzaken van geweld jegens een derde partij,” vertelde J. Eli Wade-Scott, managing partner van Edelson PC, destijds aan Decrypt. “We dringen er bij de wetshandhavingsinstanties op aan om na te denken over wanneer tragedies zoals deze zich voordoen, wat die gebruiker tegen ChatGPT zei, en wat ChatGPT hen vertelde te doen.”