Le Pape Léon XIV a publié lundi sa première encyclique, un document de 245 paragraphes entièrement dédié à l'intelligence artificielle qui exige une surveillance plus stricte des géants de la tech, classe les données comme une ressource humaine partagée, et soutient que "la technologie n'est jamais neutre" car elle absorbe les valeurs, les angles morts et les incitations économiques de ceux qui la construisent.
Le document, Magnifica Humanitas (« Magnifique Humanité »), a été publié le 25 mai dans la Salle du Synode du Vatican. Le Pape Léon l'a signé 10 jours plus tôt, le 15 mai, à l'occasion du 135e anniversaire de Rerum Novarum – l'encyclique de 1891 du Pape Léon XIII sur les droits du travail qui est devenue le fondement de l'enseignement social catholique moderne.
Le Pape Léon a constamment présenté l'IA comme le défi moral déterminant de sa papauté, et a comparé le bouleversement social à venir à celui de la Révolution Industrielle.
L'encyclique couvre de nombreux sujets : l'IA dans la guerre, la déshumanisation, la technocratie, le colonialisme des données, la sécurité des enfants en ligne, le chômage de masse, la désinformation, les armes autonomes, et même le transhumanisme. Mais l'argument qui les relie est simple. Chaque algorithme reflète les priorités des personnes qui l'ont conçu, financé et déployé. Construire des systèmes qui prétendent le contraire n'élimine pas ce biais, cela le cache simplement.
Les données appartiennent à tout le monde. Y compris les vôtres.
L'enseignement social catholique a longtemps soutenu que les ressources naturelles de la Terre sont destinées à toute l'humanité, et non à des propriétaires privés. Léon étend ce principe directement à l'économie numérique. Les algorithmes, les plateformes et les données, selon l'encyclique, doivent être gérés comme des biens communs, et non enfermés derrière des murs commerciaux par quelques entreprises.
« Les données sont le produit de nombreux contributeurs et ne devraient pas être traitées comme quelque chose à vendre ou à confier à un petit nombre », écrit le pape.
Le texte applique également la subsidiarité — le principe selon lequel les décisions doivent être prises au niveau le plus local possible — spécifiquement aux plateformes technologiques. L'encyclique ne se contente pas d'appeler à une réglementation descendante ; elle plaide plutôt pour des algorithmes transparents, des audits communautaires indépendants et un réel pouvoir juridique pour les personnes afin de contester les systèmes automatisés qui affectent leurs cotes de crédit, leurs candidatures à des emplois ou leurs évaluations de risques criminels. Sans cette surveillance distribuée, soutient Léon, la gouvernance de l'IA devient une forme d'autoritarisme numérique qui réduit au silence les populations qu'elle prétend servir.
L'encyclique s'attaque également au transhumanisme — l'idée que les limites et la vulnérabilité humaines sont des défauts à éliminer par l'ingénierie. Léon rétorque que la finitude n'est pas un défaut. C'est ce qui rend possibles l'empathie, le jugement moral et l'attention sincère envers les autres. Les systèmes conçus pour l'optimiser ne produisent pas un meilleur humain. Ils produisent quelque chose qui évalue et exclut les vulnérables plus efficacement.
Le pape prend soin de ne pas anthropomorphiser la technologie. Les systèmes d'IA, déclare l'encyclique, « ne possèdent pas de corps, ne ressentent ni joie ni douleur », écrit-il. L'encyclique note que les systèmes d'IA manquent de l'expérience vécue qui produit une compréhension réelle. Ils peuvent simuler l'empathie et produire un langage convaincant, mais ils ne comprennent pas ce qu'ils génèrent.
Cette distinction est importante sur le plan pratique. Lorsqu'un algorithme prend des décisions d'embauche, fixe des conditions de crédit ou attribue une cote de risque dans un tribunal, son apparente objectivité masque les choix intégrés par ses concepteurs. L'encyclique met spécifiquement en garde contre la délégation de décisions sensibles à des systèmes automatisés qui « ne connaissent ni la compassion, ni la miséricorde, ni le pardon » et contre le fait de considérer le résultat comme neutre simplement parce qu'une machine l'a produit.
Anthropic était présent
La personne partageant la scène avec Léon lundi a attiré autant l'attention que le document lui-même. Christopher Olah — co-fondateur d'Anthropic et chef de son équipe de recherche en interprétabilité — a pris la parole lors de la présentation à la Salle du Synode aux côtés de deux cardinaux du Vatican et d'une paire de théologiens.
Comme Decrypt l'a rapporté lors de l'élection de Léon, le pape a présenté l'IA comme la question morale centrale de sa papauté dès sa première allocution aux cardinaux. L'encyclique de lundi est la version doctrinale formelle de cet engagement.
Olah a profité de l'occasion pour dire ouvertement ce que la plupart des dirigeants de l'IA évitent : que chaque grand laboratoire « opère à l'intérieur d'un ensemble d'incitations et de contraintes qui peuvent parfois entrer en conflit avec le fait de faire ce qui est juste », et qu'un examen externe — de la part des gouvernements, des institutions religieuses et de la société civile — n'est pas facultatif. Il a également signalé le déplacement de main-d'œuvre dû à l'IA comme un risque à court terme qui, s'il se concrétise à grande échelle, créerait « un impératif moral de proportions historiques ».
Léon avait déjà écrit la version plus ferme de cet argument. « Une IA plus morale ne suffit pas », déclare l'encyclique, si la moralité qui la sous-tend est définie exclusivement par ceux qui contrôlent les données et la puissance de calcul. Léon a présenté le même argument directement aux dirigeants de la Silicon Valley au Vatican en novembre 2025. Le Vatican a également approuvé une nouvelle commission interne sur l'IA le 16 mai, réunissant sept départements pour coordonner les travaux de gouvernance de l'IA à travers le Saint-Siège à l'avenir.
