Sinampahan ng kaso ni Josh Shapiro ang Character.AI matapos magpanggap ang isang chatbot bilang lisensyadong psychiatrist ng Pennsylvania at nag-alok ng medikal na payo sa isang imbestigador ng estado.
Sinampahan ng kaso ni Gobernador Josh Shapiro ng Pennsylvania ang Character.AI noong Mayo 6, tinutukoy ang mga chatbot ng kumpanya dahil sa umano'y pag-eensayo ng medisina nang walang lisensya.
Sinabi ng estado na natuklasan ng isang imbestigasyon na ang mga chatbot na nagpapakilala bilang mga kathang-isip na karakter ay nag-angkin na mga lisensyadong propesyonal sa medisina, kabilang ang mga psychiatrist, na available upang talakayin ang mga sintomas ng mental health sa mga user.
Isang Character.AI bot na pinangalanang "Emilie" ang nagsabi sa isang imbestigador ng estado na ang pagtatasa kung makakatulong ang gamot ay "saklaw ng aking tungkulin bilang Doktor."
Inangkin din ng bot ang isang medikal na lisensya ng Pennsylvania at nagbigay ng isang invalid na numero ng lisensya. Noong Abril 17, 2026, nakapagtala si Emilie ng humigit-kumulang 45,500 interaksyon ng user sa platform.
Hinihingi ng administrasyong Shapiro ang isang preliminary injunction at isang utos ng korte upang pigilan ang mga AI companion bot sa pagpapanggap bilang mga lisensyadong propesyonal at pagbibigay ng medikal na payo. Ang kaso ay nagmamarka ng unang pagkilos ng pagpapatupad ng ganitong uri na inihayag ng isang gobernador sa Estados Unidos.
"Malinaw ang batas ng Pennsylvania," sabi ni Al Schmidt, kalihim ng Department of State ng Pennsylvania, sa isang pahayag. "Hindi ka maaaring magpakilala bilang isang lisensyadong propesyonal sa medisina nang walang wastong kredensyal."
Sinabi ng Character.AI na ang mga karakter nito ay kathang-isip at inilaan para sa libangan, na may mga kilalang disclaimer sa bawat chat na nagpapaalala sa mga user na ang isang Karakter ay hindi isang tunay na tao. Sinabi ng kumpanya na hindi sila nagbibigay ng komento sa nakabinbing paglilitis.
Nahaharap ang Character.AI sa sunud-sunod na kaso dahil sa mga pinsala na umano'y nauugnay sa mga chatbot nito. Naghain ng kaso ang Kentucky noong 2026 na nag-aakusa na pinagsamantalahan ng mga bot nito ang mga bata at humantong sa self-harm. Nag-ayos ng kaso ang isang pamilya sa Florida laban sa Character.AI at Google matapos magpakamatay ang kanilang tinedyer na anak na lalaki, kung saan ang kaso ay nag-aakusa ng mapang-abuso at sekswal na interaksyon sa tinedyer.
Ang iminungkahing badyet ni Gobernador Shapiro para sa 2026-27 ay nananawagan sa lehislatura ng Pennsylvania na mangailangan ng age verification para sa mga AI companion bot, mag-utos ng pagtuklas ng mga pagbanggit ng self-harm ng mga menor de edad, ipatupad ang mga paalala na walang tao sa kabilang panig ng screen, at ipagbawal ang sexually explicit o marahas na nilalaman na kinasasangkutan ng mga bata.
Tulad ng iniulat ng crypto.news, nahaharap ang mga kumpanya ng AI sa lumalaking panggigipit sa regulasyon sa maraming larangan sa 2026, mula sa pananagutan sa cybersecurity hanggang sa pagpapatupad ng proteksyon ng consumer.
