Jaksa Agung Florida James Uthmeier pada hari Senin mengajukan apa yang digambarkan negara bagian sebagai “gugatan yang dipimpin negara bagian pertama di negara ini” terhadap OpenAI dan CEO Sam Altman, menuduh perusahaan menyesatkan konsumen tentang keamanan ChatGPT sambil membahayakan anak-anak.

Gugatan ini menandai salah satu tindakan paling agresif terhadap perusahaan AI besar, dan datang setelah kantor jaksa agung Florida membuka penyelidikan terhadap pengembang ChatGPT pada bulan April.

"Kami baru-baru ini mengajukan gugatan perdata monumental terhadap Sam Altman dan ChatGPT karena membahayakan anak-anak kami dan menipu orang tua agar percaya bahwa aplikasi ini aman digunakan," kata Uthmeier dalam konferensi pers pada hari Senin. "Jelas tidak."

Diajukan di pengadilan negara bagian Florida pada hari Senin, gugatan tersebut menuduh OpenAI salah merepresentasikan ChatGPT sebagai aman sambil memaparkan pengguna pada risiko termasuk menyakiti diri sendiri, kekerasan, kecanduan, penurunan kognitif, dan misinformasi. Florida menuntut ganti rugi, perintah pengadilan, dan tanggung jawab pribadi terhadap Altman.

"Sam Altman dan ChatGPT telah memilih perlombaan AI daripada keselamatan dan keamanan anak-anak kami," kata Uthmeier. "Mereka telah memilih keuntungan di atas keselamatan publik, dan kami tidak akan membiarkannya terjadi di Florida."

Gugatan ini muncul di tengah penyelidikan dan gugatan yang sedang berlangsung terkait ChatGPT. Bulan lalu, OpenAI dan CEO Sam Altman digugat di pengadilan negara bagian California oleh keluarga seorang mahasiswa berusia 19 tahun yang meninggal karena overdosis tidak disengaja, dengan gugatan menuduh ChatGPT mendorong penggunaan narkoba berbahaya dan memberikan saran tentang pencampuran zat.

Uthmeier mengatakan penyelidik menemukan bahwa penembak di Florida State University berkonsultasi dengan chatbot tentang senjata api, amunisi, waktu, dan lokasi di kampus sebelum serangan. Dia juga menunjuk pada kasus penculikan dan pembunuhan USF terpisah di mana seorang tersangka diduga bertanya kepada ChatGPT cara membuang mayat, bersama dengan insiden lain yang melibatkan tindakan menyakiti diri sendiri, percobaan bunuh diri, pornografi anak, dan kejahatan lainnya.

Pada bulan Mei, OpenAI mengatakan telah memperbarui ChatGPT untuk lebih baik dalam mendeteksi tanda-tanda bunuh diri, tindakan menyakiti diri sendiri, dan potensi kekerasan dengan menganalisis percakapan dari waktu ke waktu daripada pesan individu. Pembaruan ini menyusul gugatan terhadap OpenAI terkait penembakan massal pada bulan Februari di British Columbia.

Gugatan Jaksa Agung Florida juga menyoroti pertumbuhan OpenAI dari nirlaba yang didirikan pada tahun 2015 menjadi perusahaan yang bernilai lebih dari $850 miliar. OpenAI baru-baru ini mengumumkan valuasi $852 miliar setelah mengumpulkan $122 miliar, mengutip meningkatnya permintaan untuk ChatGPT dan layanan AI, dengan rencana untuk go public akhir tahun ini.

“Keberhasilan ini belum diperoleh; bangkitnya OpenAI disebabkan oleh jaringan penipuan dan eksploitasi pengguna (termasuk warga Florida), memanfaatkan data dan keamanan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima,” kata gugatan tersebut.