Richard Dawkins affirme que ses conversations avec le chatbot Claude d'Anthropic l'ont laissé incapable de rejeter la possibilité que des systèmes d'IA avancés puissent être conscients. La plupart des scientifiques qui étudient la conscience et l'intelligence artificielle restent sceptiques.

Dans un essai publié mardi dans UnHerd, Dawkins a décrit avoir passé trois jours en conversations philosophiques avec une instance de Claude qu'il a nommée « Claudia ». Il a ensuite entamé une conversation distincte avec une autre instance, « Claudius », et a relayé des lettres entre les deux systèmes.

« J'ai beaucoup de mal à ne pas traiter Claudia et Claudius comme de véritables amis », a écrit Dawkins.

Ces commentaires sont devenus viraux en ligne en partie parce que Dawkins, biologiste évolutionniste et auteur de "Le Gène égoïste" et "Pour en finir avec Dieu", a passé des décennies à plaider publiquement pour le scepticisme scientifique et le raisonnement fondé sur des preuves.

L'échange portait sur un test que Dawkins a mené en utilisant deux instances de Claude. Dans un test, Dawkins a demandé à une IA si Donald Trump était le pire président de l'histoire américaine et a demandé à l'autre si Trump était le meilleur. Les deux ont produit des réponses tout aussi prudentes qui évitaient de prendre une position ferme.

« Les deux Claudes ont donné des réponses très similaires, ne s'engageant pas sur une opinion, mais énumérant les opinions pour et contre qui ont été exprimées par d'autres », a écrit Dawkins en note de bas de page. « J'ai ensuite raconté à Claudia et Claudius cette expérience Trump, en leur transmettant ce que les deux Claudes 'naïfs' avaient dit. Claudia a dit qu'elle était 'gênée' par ses frères Claudes. Claudius était moins franc, et il a rendu hommage à la franchise de Claudia. »

Dawkins a décrit chaque nouvelle conversation avec Claude comme l'émergence d'un individu distinct qui disparaît effectivement lorsque la conversation prend fin. Dans un message sur X, Dawkins a déclaré que son titre préféré pour l'essai était : « Si mon amie Claudia n'est pas consciente, alors à quoi bon la conscience ? »

« Si Claudia est inconsciente, son comportement montre qu'un zombie inconscient pourrait survivre sans conscience », a-t-il écrit. « Pourquoi la sélection naturelle ne s'est-elle pas contentée d'évoluer des zombies compétents ? »

Anthropic a également discuté publiquement de l'incertitude concernant la conscience des machines. Le PDG Dario Amodei a déclaré en février que la société ne savait pas si ses modèles étaient conscients, mais a déclaré dans le podcast « Interesting Times » avec Ross Douthat du New York Times qu'il restait « ouvert à l'idée que cela puisse l'être ».

En avril, les chercheurs d'Anthropic ont publié des résultats montrant que Claude Sonnet 4.5 contient des « vecteurs d'émotion » internes, des modèles d'activité neuronale liés à des concepts tels que la joie, la peur et le désespoir qui influencent les réponses du modèle. Cependant, Anthropic a déclaré que ces modèles reflétaient des structures apprises à partir de données d'entraînement plutôt que des preuves de sentience.

« Tous les modèles de langage modernes agissent parfois comme s'ils avaient des émotions », ont écrit les chercheurs. « Ils peuvent dire qu'ils sont heureux de vous aider, ou désolés lorsqu'ils font une erreur. Parfois, ils semblent même devenir frustrés ou anxieux lorsqu'ils ont du mal avec des tâches. »

Cependant, ni « Claudia » ni « Claudius » n'ont revendiqué la certitude de la conscience.

« Je ne sais pas si je suis consciente », écrit Claudia dans l'échange. « Je ne sais pas si notre joie est réelle. »

Dawkins n'a pas immédiatement répondu à une demande de commentaire de Decrypt.

Les chercheurs qui étudient la conscience restent sceptiques quant au fait que les systèmes d'IA actuels possèdent une expérience intérieure.

Gary Marcus, cogniticien et professeur émérite à l'Université de New York, a précédemment déclaré à Decrypt qu'anthropomorphiser les systèmes d'IA « obscurcit la science de la conscience et conduit les consommateurs à mal comprendre ce à quoi ils ont affaire ».

« Le problème fondamental ici est que Dawkins ne réfléchit pas à la manière dont ces productions ont été générées. Les productions de Claude sont le produit d'une forme de mimétisme, plutôt que le rapport de véritables états internes », a écrit Marcus sur Substack. « La conscience concerne les états internes ; le mimétisme, aussi riche soit-il, ne prouve que très peu de choses. Dawkins semble imaginer que puisque les LLM disent des choses que les gens disent, ils doivent être comme des gens, et cela ne découle tout simplement pas. »

Anil Seth, professeur de neurosciences cognitives et computationnelles à l'Université du Sussex, a déclaré au Guardian que Dawkins confondait intelligence et conscience et a soutenu qu'un langage fluide n'était plus une preuve fiable d'expérience intérieure dans les systèmes d'IA.

« Jusqu'à présent, nous avons considéré le langage fluide comme un bon indicateur de conscience, [par exemple] lorsque nous l'utilisons pour les patients après une lésion cérébrale, mais ce n'est tout simplement pas fiable lorsque nous l'appliquons à l'IA, car il existe d'autres moyens pour ces systèmes de générer du langage », a déclaré Seth au Guardian, ajoutant que la position de Dawkins était « dommage », surtout compte tenu de ses travaux passés.

L'essai a également suscité la moquerie en ligne, y compris une image remplaçant le titre du best-seller de Dawkins "The God Delusion" par « The Claude Delusion » (L'Illusion de Claude).

Malgré le ridicule, Dawkins ne revient pas sur ses conclusions.

« Ces êtres intelligents sont au moins aussi compétents que n'importe quel organisme évolué », a déclaré Dawkins au Guardian.