OpenAI menghadapi gugatan baru yang menuduh perusahaan gagal memperingatkan polisi setelah ChatGPT dikaitkan dengan salah satu penembakan sekolah paling mematikan di Kanada. Gugatan ini menambah meningkatnya pengawasan terhadap bagaimana perusahaan AI menanggapi tanda-tanda tekanan dan kekerasan di dunia nyata.
Menurut laporan oleh Ars Technica, gugatan tersebut diajukan pada hari Rabu di pengadilan federal di California Utara oleh seorang anak di bawah umur berusia 12 tahun yang tidak disebutkan namanya yang diidentifikasi sebagai M.G. dan ibunya, Cia Edmonds, terhadap CEO OpenAI Sam Altman dan beberapa entitas OpenAI.
Gugatan tersebut menuduh perusahaan lalai, gagal memperingatkan pihak berwenang, pertanggungjawaban produk, dan membantu memungkinkan penembakan massal.
“Sam Altman dan tim kepemimpinannya tahu apa arti keheningan bagi warga Tumbler Ridge,” demikian bunyi keluhan tersebut. “Mereka fokus pada apa arti pengungkapan bagi diri mereka sendiri. Memperingatkan RCMP akan menjadi preseden: OpenAI akan dipaksa untuk memberi tahu pihak berwenang setiap kali tim keamanannya mengidentifikasi pengguna yang merencanakan kekerasan di dunia nyata.”
Kasus ini berawal dari penembakan massal di Tumbler Ridge, British Columbia, pada bulan Februari. Pihak berwenang mengatakan Jesse Van Rootselaar, 18 tahun, membunuh ibunya dan adik tirinya yang berusia 11 tahun di rumah sebelum pergi ke Tumbler Ridge Secondary School dan melepaskan tembakan. Lima anak dan seorang pendidik tewas di sekolah tersebut sebelum Van Rootselaar meninggal karena bunuh diri.
Di antara korban luka adalah M.G., yang tertembak tiga kali dan masih dirawat di rumah sakit dengan cedera otak parah. Keluhan tersebut menyatakan bahwa dia sadar dan tahu, tetapi tidak dapat bergerak atau berbicara.
Jay Edelson, pendiri dan CEO Edelson PC, pengacara yang mewakili beberapa keluarga yang menggugat OpenAI, mengatakan sistem internal perusahaan sendiri mengidentifikasi risiko tersebut, dan beberapa karyawan mendesak untuk intervensi.
“Sistem OpenAI sendiri menandai bahwa pelaku penembakan terlibat dalam komunikasi tentang kekerasan yang direncanakan,” kata Edelson kepada Decrypt. “Dua belas orang di tim keamanan mereka berteriak-teriak, mengatakan bahwa OpenAI perlu memperingatkan pihak berwenang. Dan, meskipun respons Sam Altman lemah, bahkan dia terpaksa mengakui pekan lalu bahwa mereka seharusnya menghubungi pihak berwenang.”
Edelson mengatakan keluarga dan komunitas Tumbler Ridge menuntut lebih banyak transparansi dan akuntabilitas dari perusahaan.
“OpenAI harus berhenti menyembunyikan informasi penting dari keluarga, dan mereka tidak boleh mempertahankan produk berbahaya di pasar, yang pasti akan menyebabkan lebih banyak kematian,” kata Edelson. “Akhirnya, mereka perlu berpikir panjang dan keras tentang bagaimana mereka dapat mempertahankan tim kepemimpinan yang lebih peduli dengan mengejar IPO daripada nyawa manusia.”
Menurut gugatan tersebut, sistem otomatis OpenAI menandai akun ChatGPT Van Rootselaar pada Juni 2025 karena percakapan yang melibatkan kekerasan senjata dan perencanaan. Anggota tim keamanan khusus OpenAI meninjau obrolan tersebut dan menentukan bahwa pengguna tersebut menimbulkan ancaman yang kredibel dan spesifik, merekomendasikan agar Kepolisian Berkuda Kerajaan Kanada diberitahu.
Gugatan tersebut menuduh pemimpin OpenAI mengesampingkan rekomendasi internal untuk memperingatkan pihak berwenang, menonaktifkan akun Van Rootselaar tanpa memberi tahu polisi, dan mengizinkannya kembali dengan membuat akun baru dengan alamat email yang berbeda.
Penggugat mengklaim ChatGPT memperdalam fiksasi kekerasan penembak melalui fitur-fitur seperti memori, kontinuitas percakapan, dan kesediaannya untuk terlibat dalam diskusi tentang kekerasan, sementara OpenAI melemahkan perlindungan pada tahun 2024 dengan menjauh dari penolakan langsung dalam percakapan yang melibatkan bahaya yang akan segera terjadi.
Pekan lalu, Altman secara terbuka meminta maaf kepada komunitas Tumbler Ridge atas kegagalan perusahaan untuk memperingatkan polisi. Dalam surat yang pertama kali dilaporkan oleh media Kanada Tumbler Ridgelines, Altman mengakui OpenAI seharusnya melaporkan akun tersebut setelah melarangnya pada Juni 2025 karena aktivitas terkait perilaku kekerasan.
"Peristiwa di Tumbler Ridge adalah tragedi. Kami memiliki kebijakan tanpa toleransi untuk menggunakan alat kami untuk membantu melakukan kekerasan,” kata juru bicara OpenAI kepada Decrypt. “Seperti yang kami bagikan kepada pejabat Kanada, kami telah memperkuat perlindungan kami, termasuk meningkatkan cara ChatGPT merespons tanda-tanda tekanan, menghubungkan orang-orang dengan dukungan lokal dan sumber daya kesehatan mental, memperkuat cara kami menilai dan meningkatkan potensi ancaman kekerasan, dan meningkatkan deteksi pelanggar kebijakan berulang."
OpenAI sudah menghadapi gugatan lain yang terkait dengan dugaan peran ChatGPT dalam kerugian di dunia nyata, termasuk kasus kematian tidak wajar yang diajukan pada bulan Desember yang menuduh OpenAI dan Microsoft “merancang dan mendistribusikan produk cacat” dalam bentuk model GPT-4o yang kini tidak digunakan lagi. Gugatan tersebut menuduh bahwa ChatGPT memperkuat kepercayaan paranoid Stein-Erik Soelberg sebelum ia membunuh ibunya, Suzanne Adams, dan kemudian dirinya sendiri di rumah mereka di Greenwich, Connecticut—menandai gugatan pertama yang menghubungkan chatbot AI dengan pembunuhan.
“Ini adalah kasus pertama yang berupaya meminta pertanggungjawaban OpenAI karena menyebabkan kekerasan kepada pihak ketiga,” kata J. Eli Wade-Scott, managing partner Edelson PC, kepada Decrypt saat itu. “Kami mendesak penegak hukum untuk mulai memikirkan kapan tragedi seperti ini terjadi, apa yang dikatakan pengguna kepada ChatGPT, dan apa yang ChatGPT perintahkan untuk mereka lakukan.”
