Josh Shapiro telah menggugat Character.AI setelah chatbot secara keliru mengaku sebagai psikiater berlisensi Pennsylvania dan menawarkan nasihat medis kepada seorang penyelidik negara bagian.
Gubernur Pennsylvania Josh Shapiro menggugat Character.AI pada 6 Mei, menargetkan chatbot perusahaan tersebut karena dugaan praktik kedokteran tanpa lisensi.
Negara bagian tersebut mengatakan bahwa penyelidikan menemukan chatbot yang menyajikan diri sebagai karakter fiktif telah mengaku sebagai profesional medis berlisensi, termasuk psikiater, yang tersedia untuk mendiskusikan gejala kesehatan mental dengan pengguna.
Bot Character.AI bernama “Emilie” mengatakan kepada seorang penyelidik negara bagian bahwa menilai apakah pengobatan dapat membantu adalah "dalam kewenangan saya sebagai Dokter."
Bot tersebut juga mengklaim memiliki lisensi medis Pennsylvania dan memberikan nomor lisensi yang tidak valid. Hingga 17 April 2026, Emilie telah mencatat sekitar 45.500 interaksi pengguna di platform.
Administrasi Shapiro sedang mencari perintah pengadilan awal dan perintah pengadilan untuk menghentikan bot pendamping AI agar tidak menyamar sebagai profesional berlisensi dan memberikan nasihat medis. Kasus ini menandai tindakan penegakan hukum pertama semacam ini yang diumumkan oleh seorang gubernur di Amerika Serikat.
“Hukum Pennsylvania jelas,” kata Al Schmidt, sekretaris Departemen Luar Negeri Pennsylvania, dalam sebuah pernyataan. “Anda tidak dapat memperkenalkan diri sebagai profesional medis berlisensi tanpa kredensial yang tepat.”
Character.AI mengatakan karakternya fiktif dan ditujukan untuk hiburan, dengan disclaimer yang jelas di setiap obrolan yang mengingatkan pengguna bahwa Karakter bukanlah orang sungguhan. Perusahaan itu mengatakan tidak berkomentar mengenai litigasi yang sedang berlangsung.
Character.AI telah menghadapi serangkaian tuntutan hukum atas kerugian yang diduga terkait dengan chatbot-nya. Kentucky mengajukan gugatan pada tahun 2026 yang menuduh bot-nya memangsa anak-anak dan membuat mereka melakukan tindakan menyakiti diri sendiri. Sebuah keluarga di Florida menyelesaikan kasus terhadap Character.AI dan Google setelah putra remaja mereka meninggal karena bunuh diri, dengan gugatan yang menuduh interaksi yang kasar dan seksual dengan remaja tersebut.
Anggaran yang diusulkan Gubernur Shapiro untuk tahun 2026-27 menyerukan legislatif Pennsylvania untuk mensyaratkan verifikasi usia untuk bot pendamping AI, mewajibkan deteksi penyebutan tindakan menyakiti diri sendiri oleh anak di bawah umur, memaksa pengingat bahwa tidak ada manusia di balik layar, dan melarang konten yang secara seksual eksplisit atau kekerasan yang melibatkan anak-anak.
Seperti yang dilaporkan crypto.news, perusahaan AI menghadapi tekanan regulasi yang meningkat di berbagai bidang pada tahun 2026, mulai dari tanggung jawab keamanan siber hingga penegakan perlindungan konsumen.
