À mesure que l'IA s'intègre de plus en plus dans la vie quotidienne, un nouvel article de Google DeepMind soutient que l'un des défis les plus difficiles de cette technologie pourrait être d'ordre politique plutôt que technique.

Dans l'étude intitulée « Esprits artificiels, désaccord humain : le défi politique de la conscience de l'IA », les chercheurs Adam Bales et Iason Gabriel examinent comment la société pourrait réagir si les gens sont fondamentalement en désaccord sur la question de savoir si les systèmes d'IA ont des expériences conscientes.

« Les futurs désaccords sur la question de savoir si des systèmes d'IA sont conscients pourraient être à la fois profonds et difficiles à résoudre », ont écrit les chercheurs. « Par exemple, certaines personnes pourraient développer des liens émotionnels avec l'IA et lui attribuer une conscience en conséquence, tandis que d'autres pourraient considérer toute cette idée comme absurde. »

Plutôt que de se demander si l'IA est consciente, l'article explore les conséquences du désaccord, soutenant que les débats sur le statut moral de l'IA pourraient alimenter les conflits politiques et sociaux tout en annonçant des disputes plus larges sur les technologies émergentes et leur impact sur les institutions et les normes de la société.

« Malheureusement, malgré ses vertus, la délibération peut être lente et difficile à maintenir en pratique », ont écrit les chercheurs. « Pour soutenir ce processus, nous explorons l'importance de l'« espoir démocratique » et du respect mutuel, en tant qu'éléments d'un dialogue pouvant favoriser des résultats positifs. »

Le débat est déjà en cours en dehors des laboratoires de recherche en IA. Selon une étude d'avril 2024 publiée dans Neuroscience of Consciousness, 67 % des participants croyaient que ChatGPT pouvait être conscient à un certain degré. Les chercheurs restent cependant divisés sur la question de savoir si la conscience artificielle est possible – ou comment elle serait reconnue si elle émergeait.

Les développeurs d'IA eux-mêmes alimentent également le débat. L'été dernier, Mustafa Suleyman, PDG de Microsoft AI et co-fondateur de DeepMind, a averti qu'une IA de plus en plus humaine pourrait susciter des appels à des droits, au bien-être et même à la citoyenneté pour l'IA, indépendamment de savoir si la technologie est réellement consciente.

En mai, la première lettre encyclique du Pape Léon XIV, axée sur l'intelligence artificielle, mettait en garde contre l'anthropomorphisation de l'IA, arguant que les machines peuvent simuler l'empathie et produire un langage convaincant, mais qu'elles manquent de l'expérience vécue nécessaire à une véritable compréhension.

« Les soi-disant intelligences artificielles ne vivent pas d'expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers les relations et ne savent pas de l'intérieur ce que signifient l'amour, le travail, l'amitié ou la responsabilité », a écrit le Pape Léon. « Elles n'ont pas non plus de conscience morale, car elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, ni n'assument la responsabilité des conséquences. »

Cependant, si les entreprises évitent généralement de prétendre que leurs modèles sont conscients, certaines s'engagent de plus en plus sur les questions d'identité et de personnalité.

En février, Anthropic a doté son modèle Claude Opus 3 retiré d'un blog public explorant l'identité de soi et les préférences du modèle. En mai, le biologiste évolutionniste Richard Dawkins a déclaré que des conversations prolongées avec Claude l'avaient rendu incapable d'écarter la possibilité qu'une IA avancée puisse être consciente.

Parallèlement, les chercheurs examinent comment les chatbots de plus en plus similaires aux humains affectent les utilisateurs, y compris un cadre de « spirale d'amplification », qui suggère que la personnalisation, la mise en miroir linguistique et la sycophanie du chatbot peuvent renforcer les croyances délirantes chez les utilisateurs vulnérables.

Bales et Gabriel reconnaissent que l'incertitude quant à la conscience de l'IA pourrait être impossible à résoudre de manière concluante, arguant que les enjeux sont suffisamment élevés pour que la société doive trouver des moyens de gérer les désaccords par le dialogue et le débat, plutôt que par le conflit.

« La possibilité d'une conscience de l'IA est vertigineuse et déconcertante, surtout compte tenu de notre profonde ignorance de la nature de la conscience », ont-ils écrit. « Naviguer cette possibilité représente une tâche sociale ardue, étant donné l'ampleur des enjeux. »