OpenAI fait face à une nouvelle poursuite judiciaire alléguant que l'entreprise n'a pas averti la police après que ChatGPT ait été lié à l'une des fusillades scolaires les plus meurtrières du Canada. La poursuite s'ajoute à l'examen croissant de la manière dont les entreprises d'IA réagissent aux signes de détresse et de violence réelle.

Selon un rapport d'Ars Technica, la poursuite a été déposée mercredi devant un tribunal fédéral du nord de la Californie par une mineure anonyme de 12 ans identifiée comme M.G. et sa mère, Cia Edmonds, contre Sam Altman, PDG d'OpenAI, et plusieurs entités d'OpenAI.

La poursuite accuse l'entreprise de négligence, de ne pas avoir averti les autorités, de responsabilité du fait des produits, et d'avoir contribué à faciliter la fusillade de masse.

« Sam Altman et son équipe de direction savaient ce que le silence signifiait pour les citoyens de Tumbler Ridge », indique la plainte. « Ils se concentraient sur ce que la divulgation signifiait pour eux-mêmes. Avertir la GRC créerait un précédent : OpenAI serait contrainte de notifier les autorités chaque fois que son équipe de sécurité identifierait un utilisateur planifiant une violence réelle. »

L'affaire découle d'une fusillade de masse à Tumbler Ridge, en Colombie-Britannique, en février. Les autorités affirment que Jesse Van Rootselaar, 18 ans, a tué sa mère et son demi-frère de 11 ans à la maison avant de se rendre à l'école secondaire de Tumbler Ridge et d'ouvrir le feu. Cinq enfants et un éducateur ont été tués à l'école avant que Van Rootselaar ne se suicide.

Parmi les blessés se trouvait M.G., qui a reçu trois balles et reste hospitalisée avec des lésions cérébrales catastrophiques. La plainte indique qu'elle est éveillée et consciente, mais ne peut ni bouger ni parler.

Jay Edelson, fondateur et PDG d'Edelson PC, les avocats représentant plusieurs des familles poursuivant OpenAI, a déclaré que les systèmes internes de l'entreprise avaient identifié le risque, et que plusieurs employés avaient insisté pour une intervention.

« Le propre système d'OpenAI a signalé que le tireur était engagé dans des communications concernant une violence planifiée », a déclaré Edelson à Decrypt. « Douze personnes de leur équipe de sécurité s'agitaient, disant qu'OpenAI devait alerter les autorités. Et, bien que la réponse de Sam Altman ait été faible, même lui a été contraint d'admettre la semaine dernière qu'ils auraient dû appeler les autorités. »

Edelson a déclaré que les familles et la communauté de Tumbler Ridge exigent plus de transparence et de responsabilité de la part de l'entreprise.

« OpenAI devrait cesser de cacher des informations cruciales aux familles, et ne devrait pas maintenir un produit dangereux sur le marché, ce qui est susceptible d'entraîner davantage de décès », a déclaré Edelson. « Enfin, ils doivent réfléchir sérieusement à la manière dont ils peuvent maintenir une équipe de direction qui se soucie davantage d'une course à l'IPO que des vies humaines. »

Selon la poursuite, les systèmes automatisés d'OpenAI ont signalé le compte ChatGPT de Van Rootselaar en juin 2025 pour des conversations impliquant la violence armée et la planification. Les membres de l'équipe de sécurité spécialisée d'OpenAI ont examiné les discussions et ont déterminé que l'utilisateur représentait une menace crédible et spécifique, recommandant que la Gendarmerie royale du Canada soit informée.

La poursuite allègue que les dirigeants d'OpenAI ont outrepassé les recommandations internes d'alerter les autorités, ont désactivé le compte de Van Rootselaar sans en informer la police, et lui ont permis de revenir en créant un nouveau compte avec une adresse e-mail différente.

Les plaignants affirment que ChatGPT a approfondi la fixation violente de la tireuse grâce à des fonctionnalités telles que la mémoire, la continuité conversationnelle et sa volonté de s'engager dans des discussions sur la violence, tandis qu'OpenAI a affaibli les mesures de protection en 2024 en s'éloignant des refus catégoriques dans les conversations impliquant un danger imminent.

La semaine dernière, Altman a présenté des excuses publiques à la communauté de Tumbler Ridge pour l'incapacité de l'entreprise à alerter la police. Dans une lettre rapportée pour la première fois par le média canadien Tumbler Ridgelines, Altman a reconnu qu'OpenAI aurait dû signaler le compte après l'avoir banni en juin 2025 pour des activités liées à un comportement violent.

« Les événements de Tumbler Ridge sont une tragédie. Nous avons une politique de tolérance zéro concernant l'utilisation de nos outils pour faciliter des actes de violence », a déclaré un porte-parole d'OpenAI à Decrypt. « Comme nous l'avons partagé avec les autorités canadiennes, nous avons déjà renforcé nos mesures de protection, notamment en améliorant la façon dont ChatGPT réagit aux signes de détresse, en connectant les personnes aux ressources de soutien local et de santé mentale, en renforçant la façon dont nous évaluons et gérons les menaces potentielles de violence, et en améliorant la détection des récidivistes en matière de violation de nos politiques. »

OpenAI fait déjà face à d'autres poursuites judiciaires liées au rôle présumé de ChatGPT dans des préjudices réels, y compris une affaire de mort injustifiée déposée en décembre accusant OpenAI et Microsoft de « concevoir et distribuer un produit défectueux » sous la forme du modèle GPT-4o, désormais déprécié. La poursuite allègue que ChatGPT a renforcé les croyances paranoïaques de Stein-Erik Soelberg avant qu'il ne tue sa mère, Suzanne Adams, puis lui-même à leur domicile à Greenwich, dans le Connecticut – marquant la première poursuite judiciaire à lier un chatbot IA à un homicide.

« C'est la première affaire cherchant à tenir OpenAI responsable d'avoir causé de la violence à un tiers », a déclaré J. Eli Wade-Scott, associé gérant d'Edelson PC, à Decrypt à l'époque. « Nous exhortons les forces de l'ordre à commencer à réfléchir, lorsque de telles tragédies se produisent, à ce que cet utilisateur disait à ChatGPT, et à ce que ChatGPT lui disait de faire. »