OpenAI एक नए मुकदमे का सामना कर रहा है, जिसमें आरोप लगाया गया है कि कंपनी ने पुलिस को चेतावनी देने में विफल रही जब ChatGPT को कनाडा की सबसे घातक स्कूल गोलीबारी में से एक से जोड़ा गया था। यह मुकदमा इस बात पर बढ़ती जांच को जोड़ता है कि AI कंपनियां संकट के संकेतों और वास्तविक दुनिया की हिंसा पर कैसे प्रतिक्रिया देती हैं।

आर्स टेक्निका की एक रिपोर्ट के अनुसार, यह मुकदमा बुधवार को उत्तरी कैलिफोर्निया की संघीय अदालत में एम.जी. नामक एक अनाम 12 वर्षीय नाबालिग और उसकी मां, सिया एडमंड्स द्वारा, OpenAI के सीईओ सैम अल्टमैन और कई OpenAI संस्थाओं के खिलाफ दायर किया गया था।

मुकदमा कंपनी पर लापरवाही, अधिकारियों को चेतावनी देने में विफलता, उत्पाद देयता, और सामूहिक गोलीबारी को सक्षम करने में मदद करने का आरोप लगाता है।

शिकायत में कहा गया है, “सैम अल्टमैन और उनकी नेतृत्व टीम जानती थी कि टंबलर रिज के नागरिकों के लिए चुप्पी का क्या मतलब है।” “वे इस बात पर केंद्रित थे कि प्रकटीकरण का उनके लिए क्या मतलब है। RCMP को चेतावनी देने से एक मिसाल कायम होती: OpenAI को हर बार अपनी सुरक्षा टीम द्वारा वास्तविक दुनिया की हिंसा की योजना बनाने वाले उपयोगकर्ता की पहचान करने पर अधिकारियों को सूचित करने के लिए मजबूर किया जाता।”

यह मामला फरवरी में ब्रिटिश कोलंबिया के टंबलर रिज में हुई एक सामूहिक गोलीबारी से जुड़ा है। अधिकारियों का कहना है कि 18 वर्षीय जेसी वैन रूट्सलार ने घर पर अपनी मां और 11 वर्षीय सौतेले भाई की हत्या कर दी, इससे पहले कि वह टंबलर रिज सेकेंडरी स्कूल गई और गोलीबारी शुरू कर दी। वैन रूट्सलार द्वारा आत्महत्या करने से पहले स्कूल में पांच बच्चे और एक शिक्षक मारे गए थे।

घायलों में एम.जी. भी शामिल थी, जिसे तीन बार गोली लगी थी और वह गंभीर मस्तिष्क की चोटों के साथ अस्पताल में भर्ती है। शिकायत में कहा गया है कि वह जाग्रत और जागरूक है, लेकिन हिल या बोल नहीं सकती।

एडेलसन पीसी के संस्थापक और सीईओ जे एडेलसन, जो OpenAI पर मुकदमा करने वाले कई परिवारों का प्रतिनिधित्व कर रहे हैं, ने कहा कि कंपनी के अपने आंतरिक सिस्टम ने जोखिम की पहचान की थी, और कई कर्मचारियों ने हस्तक्षेप के लिए दबाव डाला था।

एडेलसन ने डिक्रिप्ट को बताया, “OpenAI के अपने सिस्टम ने झंडी दिखाई थी कि शूटर नियोजित हिंसा के बारे में संचार में शामिल था।” “उनकी सुरक्षा टीम के बारह लोग उछल-कूद कर रहे थे, यह कहते हुए कि OpenAI को अधिकारियों को सचेत करने की आवश्यकता है। और, हालांकि सैम अल्टमैन की प्रतिक्रिया कमजोर रही है, यहां तक ​​कि उन्हें भी पिछले सप्ताह यह स्वीकार करने के लिए मजबूर किया गया कि उन्हें अधिकारियों को बुलाना चाहिए था।”

एडेलसन ने कहा कि परिवार और टंबलर रिज समुदाय कंपनी से अधिक पारदर्शिता और जवाबदेही की मांग कर रहे हैं।

एडेलसन ने कहा, “OpenAI को परिवारों से महत्वपूर्ण जानकारी छिपाना बंद कर देना चाहिए, और उन्हें बाजार में एक खतरनाक उत्पाद नहीं रखना चाहिए, जिससे और अधिक मौतें होंगी।” “अंत में, उन्हें इस बारे में लंबे और कठिन तरीके से सोचना चाहिए कि वे एक ऐसी नेतृत्व टीम को कैसे बनाए रख सकते हैं जो मानव जीवन की तुलना में IPO की ओर तेजी से बढ़ने की अधिक परवाह करती है।”

मुकदमे के अनुसार, OpenAI के स्वचालित सिस्टम ने जून 2025 में वैन रूट्सलार के ChatGPT खाते को बंदूक हिंसा और योजना से संबंधित बातचीत के लिए चिह्नित किया था। OpenAI की विशेष सुरक्षा टीम के सदस्यों ने चैट की समीक्षा की और निर्धारित किया कि उपयोगकर्ता एक विश्वसनीय और विशिष्ट खतरा पैदा करता है, यह सिफारिश करते हुए कि रॉयल कैनेडियन माउंटेड पुलिस को सूचित किया जाए।

मुकदमे में आरोप लगाया गया है कि OpenAI के नेताओं ने अधिकारियों को सचेत करने की आंतरिक सिफारिशों को खारिज कर दिया, पुलिस को सूचित किए बिना वैन रूट्सलार के खाते को निष्क्रिय कर दिया, और उसे एक अलग ईमेल पते के साथ एक नया खाता बनाकर लौटने की अनुमति दी।

शिकायतकर्ताओं का दावा है कि ChatGPT ने शूटर की हिंसक प्रवृत्ति को स्मृति, संवादात्मक निरंतरता और हिंसा पर चर्चा में शामिल होने की उसकी इच्छा जैसी विशेषताओं के माध्यम से गहरा किया, जबकि OpenAI ने 2024 में आसन्न नुकसान से जुड़ी बातचीत में सीधे इनकार से दूर जाकर सुरक्षा उपायों को कमजोर कर दिया।

पिछले सप्ताह, अल्टमैन ने पुलिस को सचेत करने में कंपनी की विफलता के लिए टंबलर रिज समुदाय से सार्वजनिक रूप से माफी मांगी। कनाडाई आउटलेट टंबलर रिजलाइन्स द्वारा पहली बार रिपोर्ट किए गए एक पत्र में, अल्टमैन ने स्वीकार किया कि OpenAI को हिंसक आचरण से संबंधित गतिविधि के लिए जून 2025 में खाते को प्रतिबंधित करने के बाद उसकी सूचना देनी चाहिए थी।

OpenAI के एक प्रवक्ता ने डिक्रिप्ट को बताया, "टंबलर रिज की घटनाएँ एक त्रासदी हैं। हिंसा करने में हमारे उपकरणों का उपयोग करने के लिए हमारी शून्य-सहिष्णुता नीति है।" "जैसा कि हमने कनाडाई अधिकारियों के साथ साझा किया है, हमने पहले ही अपने सुरक्षा उपायों को मजबूत कर लिया है, जिसमें ChatGPT संकट के संकेतों पर कैसे प्रतिक्रिया देता है, इसमें सुधार करना, लोगों को स्थानीय सहायता और मानसिक स्वास्थ्य संसाधनों से जोड़ना, हिंसा के संभावित खतरों का आकलन और वृद्धि कैसे करते हैं, इसे मजबूत करना और बार-बार नीति का उल्लंघन करने वालों का पता लगाने में सुधार करना शामिल है।"

OpenAI पहले से ही ChatGPT की वास्तविक दुनिया को नुकसान पहुंचाने में कथित भूमिका से जुड़े अन्य मुकदमों का सामना कर रहा है, जिसमें दिसंबर में दायर एक गलत मौत का मामला भी शामिल है, जिसमें OpenAI और Microsoft पर अब-कम किए गए GPT-4o मॉडल के रूप में "एक दोषपूर्ण उत्पाद डिजाइन करने और वितरित करने" का आरोप लगाया गया है। मुकदमे में आरोप लगाया गया है कि ChatGPT ने स्टाइन-एरिक सोलबर्ग की पागलपन भरी मान्यताओं को मजबूत किया, इससे पहले कि उसने अपनी मां, सुज़ैन एडम्स, और फिर खुद को ग्रीनविच, कनेक्टिकट में अपने घर पर मार डाला—जो एक AI चैटबॉट को हत्या से जोड़ने वाला पहला मुकदमा है।

एडेलसन पीसी के प्रबंध भागीदार जे. एली वेड-स्कॉट ने उस समय डिक्रिप्ट को बताया, “यह पहला मामला है जिसमें OpenAI को किसी तीसरे पक्ष को हिंसा पहुंचाने के लिए जवाबदेह ठहराने की मांग की गई है।” “हम कानून प्रवर्तन से आग्रह कर रहे हैं कि वे इस बारे में सोचना शुरू करें कि जब ऐसी त्रासदी होती है, तो वह उपयोगकर्ता ChatGPT से क्या कह रहा था, और ChatGPT उन्हें क्या करने के लिए कह रहा था।”