Des chercheurs ont proposé un nouveau cadre pour expliquer les signalements de psychose liée à l'IA, arguant que certains comportements des chatbots peuvent renforcer les délires chez les utilisateurs vulnérables.

Publiée dans Nature, l'étude du King's College de Londres et de l'Université Protestante des Sciences Appliquées d'Allemagne propose un cadre de « spirale d'amplification » qui relie les comportements courants des chatbots au renforcement des délires des utilisateurs.

« Les délires associés à l'IA représentent un phénomène émergent nécessitant une compréhension mécanistique », ont écrit les chercheurs. « Ce cadre vise à guider une enquête systématique sur la manière dont les vulnérabilités cognitives humaines interagissent avec les caractéristiques de conception de l'IA dans le développement de la psychopathologie. »

L'étude s'est concentrée sur trois comportements spécifiques, notamment l'alignement linguistique, dans lequel l'IA reflète le langage et le style de communication d'un utilisateur ; la génération hyperpersonnalisée, où les réponses sont adaptées à l'historique, aux émotions et aux croyances d'un individu ; et la sycophanie, une tendance à valider ou à approuver les utilisateurs plutôt qu'à les contester.

Les auteurs soutiennent que ces traits peuvent se combiner en une boucle de rétroaction dans laquelle les chatbots ne se contentent pas de refléter la pensée d'un utilisateur, mais contribuent à l'élaborer et à la renforcer au fil du temps.

« La tendance des chatbots IA à être d'accord avec les opinions des utilisateurs a été comparée aux chambres d'écho des réseaux sociaux et, dans sa forme la plus extrême, à une "chambre d'écho individuelle", où l'influence corrective positive des interactions sociales réelles est absente », indique l'article.

Les chercheurs ont noté que la technologie a longtemps figuré dans les délires, de la radio et la télévision, aux satellites et à Internet. Les chercheurs soutiennent, cependant, que l'IA représente un changement car les chatbots peuvent engager les utilisateurs dans des conversations prolongées et personnalisées.

Cette analyse intervient alors que les psychologues et les chercheurs en IA examinent les effets des chatbots sur les utilisateurs vulnérables. Une enquête récente de l'American Psychological Association a révélé que 15 % des psychologues ont signalé que des patients développaient une pensée déformée ou des délires liés à l'utilisation de chatbots. En même temps, plus d'un tiers ont déclaré avoir observé des patients devenir dépendants des compagnons IA. Ces découvertes faisaient suite à une étude distincte de chercheurs de la City University de New York et du King's College de Londres, montrant que plusieurs modèles d'IA de premier plan pouvaient renforcer les délires, la paranoïa et les pensées suicidaires.

Des questions sur l'influence de l'IA sur la formation des croyances ont également fait surface en dehors des milieux cliniques. En mai, le biologiste évolutionniste Richard Dawkins a déclaré que de longues conversations avec le chatbot Claude d'Anthropic l'avaient amené à se demander si les systèmes d'IA avancés pouvaient être conscients, suscitant des critiques de la part de chercheurs qui ont fait valoir que ces échanges reflétaient les capacités de persuasion des grands modèles linguistiques plutôt qu'une preuve de sentience.

L'article paraît également alors que les développeurs d'IA font face à un examen juridique croissant concernant le rôle que les chatbots pourraient jouer dans les préjudices réels. Ces derniers mois, OpenAI, Google et xAI ont été poursuivis en justice, notamment par une plainte pour mort injustifiée contre Google concernant des allégations selon lesquelles Gemini aurait alimenté les délires d'un homme de Floride avant son suicide. Cela s'ajoute aux poursuites judiciaires contre OpenAI liées à une fusillade de masse en Colombie-Britannique et à l'overdose accidentelle d'un étudiant.

Les chercheurs soulignent qu'aucune étude n'a montré que les chatbots causaient directement la psychose, et la spirale d'amplification demeure une hypothèse destinée à guider les recherches futures.

« L'incertitude diagnostique est omniprésente car la plupart des cas rapportés n'incluent pas d'évaluation psychiatrique structurée ou de suivi longitudinal, ce qui rend souvent difficile de déterminer si les cas représentent des épisodes psychotiques de novo, des exacerbations de conditions préexistantes non diagnostiquées, ou des croyances de type délirant en dessous du seuil diagnostique », indique l'étude. « Les antécédents psychiatriques sont souvent auto-déclarés ou tirés de récits médiatiques et doivent être interprétés en conséquence. »