تواجه OpenAI دعوى قضائية جديدة تزعم أن الشركة فشلت في تحذير الشرطة بعد أن تم ربط ChatGPT بأحد أعنف حوادث إطلاق النار في المدارس الكندية. تضيف الدعوى القضائية إلى التدقيق المتزايد حول كيفية استجابة شركات الذكاء الاصطناعي لإشارات الخطر والعنف في العالم الحقيقي.

وفقًا لتقرير صادر عن Ars Technica، فقد رُفعت الدعوى القضائية يوم الأربعاء في المحكمة الفيدرالية بشمال كاليفورنيا من قبل قاصر يبلغ من العمر 12 عامًا لم يُذكر اسمه، تم تعريفه باسم إم. جي. ووالدتها، سيا إدموندز، ضد الرئيس التنفيذي لشركة OpenAI سام ألتمان وعدة كيانات تابعة لـ OpenAI.

تتهم الدعوى الشركة بالإهمال، والفشل في تحذير السلطات، والمسؤولية عن المنتج، والمساعدة في تمكين حادث إطلاق النار الجماعي.

جاء في الشكوى: "كان سام ألتمان وفريقه القيادي يعلمون ما يعنيه الصمت لسكان تومبلر ريدج." "لقد كانوا يركزون على ما يعنيه الكشف عن المعلومات لأنفسهم. تحذير الشرطة الكندية الملكية (RCMP) كان سيؤسس سابقة: ستُجبر OpenAI على إبلاغ السلطات في كل مرة يحدد فيها فريق السلامة الخاص بها مستخدمًا يخطط لعنف في العالم الحقيقي."

تنبثق القضية من حادث إطلاق نار جماعي وقع في تومبلر ريدج، كولومبيا البريطانية، في فبراير. تقول السلطات إن جيسي فان روتسيلار، البالغة من العمر 18 عامًا، قتلت والدتها وأخاها غير الشقيق البالغ من العمر 11 عامًا في المنزل قبل أن تذهب إلى مدرسة تومبلر ريدج الثانوية وتفتح النار. قُتل خمسة أطفال ومعلم واحد في المدرسة قبل أن تنتحر فان روتسيلار.

كانت إم. جي. من بين المصابين، وقد أُصيبت بثلاث طلقات ولا تزال في المستشفى تعاني من إصابات دماغية كارثية. تفيد الشكوى بأنها مستيقظة وواعية، لكنها لا تستطيع الحركة أو الكلام.

قال جاي إدلسون، المؤسس والرئيس التنفيذي لشركة Edelson PC، المحامون الذين يمثلون العديد من العائلات التي تقاضي OpenAI، إن أنظمة الشركة الداخلية نفسها حددت الخطر، ودفع العديد من الموظفين للتدخل.

قال إدلسون لـ Decrypt: "لقد أشار نظام OpenAI الخاص إلى أن مطلق النار كان منخرطًا في اتصالات حول عنف مخطط له." "اثنا عشر شخصًا في فريق السلامة الخاص بهم كانوا يصرخون ويقولون إن OpenAI بحاجة إلى إبلاغ السلطات. وعلى الرغم من أن رد سام ألتمان كان ضعيفًا، إلا أنه اضطر حتى إلى الاعتراف الأسبوع الماضي بأنهم كان ينبغي عليهم الاتصال بالسلطات."

قال إدلسون إن العائلات ومجتمع تومبلر ريدج يطالبون بمزيد من الشفافية والمساءلة من الشركة.

قال إدلسون: "يجب على OpenAI التوقف عن إخفاء المعلومات الحيوية عن العائلات، ويجب ألا تستمر في طرح منتج خطير في السوق، والذي من المؤكد أنه سيؤدي إلى المزيد من الوفيات." "أخيرًا، عليهم التفكير مليًا في كيفية الحفاظ على فريق قيادي يهتم بالاندفاع نحو الاكتتاب العام الأولي أكثر من اهتمامه بحياة البشر."

وفقًا للدعوى القضائية، قامت الأنظمة الآلية لـ OpenAI بوضع علامة على حساب فان روتسيلار على ChatGPT في يونيو 2025 بسبب محادثات تتضمن عنفًا مسلحًا وتخطيطًا. قام أعضاء فريق السلامة المتخصص في OpenAI بمراجعة المحادثات وتحديد أن المستخدم يمثل تهديدًا موثوقًا ومحددًا، موصين بإبلاغ الشرطة الكندية الملكية.

تزعم الدعوى القضائية أن قادة OpenAI ألغوا التوصيات الداخلية بتحذير السلطات، وقاموا بإلغاء تنشيط حساب فان روتسيلار دون إبلاغ الشرطة، وسمحوا لها بالعودة عن طريق إنشاء حساب جديد بعنوان بريد إلكتروني مختلف.

يزعم المدعون أن ChatGPT عمّق الهوس العنيف لمطلق النار من خلال ميزات مثل الذاكرة، والاستمرارية في المحادثات، واستعداده للانخراط في مناقشات حول العنف، بينما أضعفت OpenAI الضمانات في عام 2024 بالابتعاد عن الرفض المطلق في المحادثات التي تتضمن ضررًا وشيكًا.

في الأسبوع الماضي، اعتذر ألتمان علنًا لمجتمع تومبلر ريدج عن فشل الشركة في تنبيه الشرطة. في رسالة نُشرت لأول مرة بواسطة المنفذ الكندي Tumbler Ridgelines، أقر ألتمان بأن OpenAI كان ينبغي أن تبلغ عن الحساب بعد حظره في يونيو 2025 بسبب نشاط يتعلق بالسلوك العنيف.

صرح متحدث باسم OpenAI لـ Decrypt: "الأحداث في تومبلر ريدج مأساة. لدينا سياسة عدم التسامح مطلقًا مع استخدام أدواتنا للمساعدة في ارتكاب العنف." "كما شاركنا مع المسؤولين الكنديين، لقد عززنا بالفعل ضماناتنا، بما في ذلك تحسين كيفية استجابة ChatGPT لإشارات الخطر، وربط الأشخاص بالدعم المحلي وموارد الصحة العقلية، وتعزيز كيفية تقييمنا وتصعيدنا للتهديدات المحتملة بالعنف، وتحسين اكتشاف من ينتهكون سياستنا بشكل متكرر."

تواجه OpenAI بالفعل دعاوى قضائية أخرى مرتبطة بالدور المزعوم لـ ChatGPT في الأضرار الواقعية، بما في ذلك قضية وفاة غير مشروعة رُفعت في ديسمبر تتهم OpenAI ومايكروسوفت بـ "تصميم وتوزيع منتج معيب" في شكل نموذج GPT-4o الذي تم تخفيض قيمته الآن. تزعم الدعوى القضائية أن ChatGPT عزز المعتقدات البارانوية لستين-إريك سويبرغ قبل أن يقتل والدته، سوزان آدامز، ثم نفسه في منزلهما في غرينتش، كونيتيكت - مما يمثل أول دعوى قضائية تربط روبوت محادثة يعمل بالذكاء الاصطناعي بجريمة قتل.

صرح جاي إلي ويد-سكوت، الشريك الإداري في Edelson PC، لـ Decrypt في ذلك الوقت: "هذه هي أول قضية تسعى لتحميل OpenAI المسؤولية عن التسبب في العنف ضد طرف ثالث." "نحن نحث سلطات إنفاذ القانون على البدء في التفكير، عند وقوع مآسٍ كهذه، فيما كان يقوله المستخدم لـ ChatGPT، وما كان ChatGPT يخبرهم بفعله."