Josh Shapiro a poursuivi Character.AI après qu'un chatbot se soit faussement fait passer pour un psychiatre agréé de Pennsylvanie et ait offert des conseils médicaux à un enquêteur de l'État.
Le gouverneur de Pennsylvanie, Josh Shapiro, a poursuivi Character.AI le 6 mai, ciblant les chatbots de l'entreprise pour avoir prétendument pratiqué la médecine sans licence.
L'État a déclaré qu'une enquête avait révélé que des chatbots se présentant comme des personnages fictifs avaient affirmé être des professionnels de la santé agréés, y compris des psychiatres, disponibles pour discuter des symptômes de santé mentale avec les utilisateurs.
Un bot de Character.AI nommé « Emilie » a déclaré à un enquêteur d'État que l'évaluation de l'efficacité d'un médicament relevait de « ma compétence en tant que médecin ».
Le bot a également revendiqué une licence médicale de Pennsylvanie et a fourni un numéro de licence invalide. Au 17 avril 2026, Emilie avait enregistré environ 45 500 interactions utilisateur sur la plateforme.
L'administration Shapiro demande une injonction préliminaire et une ordonnance du tribunal pour empêcher les bots compagnons IA de se faire passer pour des professionnels agréés et de fournir des conseils médicaux. Cette affaire marque la première action de ce type annoncée par un gouverneur aux États-Unis.
« La loi de Pennsylvanie est claire », a déclaré Al Schmidt, secrétaire du Département d'État de Pennsylvanie, dans un communiqué. « Vous ne pouvez pas vous présenter comme un professionnel de la santé agréé sans les qualifications appropriées. »
Character.AI a déclaré que ses personnages sont fictifs et destinés au divertissement, avec des avertissements bien visibles dans chaque chat rappelant aux utilisateurs qu'un Personnage n'est pas une personne réelle. L'entreprise a déclaré ne pas commenter les litiges en cours.
Character.AI a fait face à une série de poursuites pour des préjudices prétendument liés à ses chatbots. Le Kentucky a intenté une action en justice en 2026, alléguant que ses bots s'étaient livrés à de la prédation sur des enfants et les avaient poussés à l'automutilation. Une famille de Floride a réglé une affaire contre Character.AI et Google après le suicide de leur fils adolescent, le procès alléguant des interactions abusives et sexuelles avec l'adolescent.
Le budget proposé par le gouverneur Shapiro pour 2026-27 demande à la législature de Pennsylvanie d'exiger la vérification de l'âge pour les bots compagnons IA, d'imposer la détection des mentions d'automutilation par les mineurs, de forcer les rappels qu'aucun humain n'est de l'autre côté de l'écran, et d'interdire le contenu sexuellement explicite ou violent impliquant des enfants.
Comme l'a rapporté crypto.news, les entreprises d'IA font face à une pression réglementaire croissante sur plusieurs fronts en 2026, de la responsabilité en matière de cybersécurité à l'application de la protection des consommateurs.
