El Papa León XIV publicó el lunes su primera encíclica, un documento de 245 párrafos dedicado íntegramente a la inteligencia artificial que exige una supervisión más estricta de las grandes tecnológicas, clasifica los datos como un recurso humano compartido y argumenta que "la tecnología nunca es neutral" porque absorbe los valores, los puntos ciegos y los incentivos económicos de quien la construye.

El documento, Magnifica Humanitas ("Magnífica Humanidad"), fue presentado en la Sala del Sínodo del Vaticano el 25 de mayo. El Papa León lo firmó 10 días antes, el 15 de mayo, en el 135º aniversario de Rerum Novarum, la encíclica de 1891 del Papa León XIII sobre los derechos laborales que sentó las bases de la moderna doctrina social católica.

El Papa León ha enmarcado constantemente la IA como el desafío moral definitorio de su papado, y ha comparado la inminente agitación social con la de la Revolución Industrial.

La encíclica abarca mucho terreno: la IA en la guerra, la deshumanización, la tecnocracia, el colonialismo de datos, la seguridad infantil en línea, el desempleo masivo, la desinformación, las armas autónomas e incluso el transhumanismo. Pero el argumento que la une es simple. Cada algoritmo refleja las prioridades de las personas que lo diseñaron, financiaron e implementaron. Construir sistemas que pretendan lo contrario no elimina ese sesgo, solo lo oculta.

Los datos pertenecen a todos. Incluidos los tuyos.

La doctrina social católica ha sostenido durante mucho tiempo que los recursos naturales de la tierra están destinados a toda la humanidad, no a propietarios privados. León extiende ese principio directamente a la economía digital. Los algoritmos, las plataformas y los datos, argumenta la encíclica, deben gobernarse como bienes comunes, no encerrados tras muros comerciales por unas pocas empresas.

"Los datos son producto de muchos colaboradores y no deben ser tratados como algo para ser vendido o confiado a unos pocos", escribe el papa.

El texto también aplica la subsidiariedad —el principio de que las decisiones deben tomarse en el nivel más local posible— específicamente a las plataformas tecnológicas. La encíclica no solo pide una regulación de arriba hacia abajo; aboga en cambio por algoritmos transparentes, auditorías comunitarias independientes y un poder legal real para que las personas impugnen los sistemas automatizados que afectan sus puntajes de crédito, solicitudes de empleo o evaluaciones de riesgo criminal. Sin esa supervisión distribuida, argumenta León, la gobernanza de la IA se convierte en una forma de autoritarismo digital que silencia a las poblaciones a las que dice servir.

La encíclica también arremete contra el transhumanismo, la idea de que las limitaciones y vulnerabilidades humanas son defectos a ser eliminados mediante ingeniería. La objeción de León es que la finitud no es un error. Es lo que hace posible la empatía, el juicio moral y el cuidado genuino por los demás. Los sistemas construidos para optimizarlo no producen un ser humano mejor. Producen algo que evalúa y excluye a los vulnerables de manera más eficiente.

El papa es cuidadoso de no antropomorfizar la tecnología. Los sistemas de IA, afirma la encíclica, "no poseen un cuerpo, no sienten alegría ni dolor", escribe. La encíclica señala que los sistemas de IA carecen de la experiencia vivida que produce una comprensión real. Pueden simular empatía y producir un lenguaje convincente, pero no comprenden lo que emiten.

Esa distinción importa en la práctica. Cuando un algoritmo toma decisiones de contratación, establece términos de crédito o asigna una puntuación de riesgo en un tribunal, su aparente objetividad oculta las decisiones incorporadas por sus diseñadores. La encíclica advierte específicamente contra la delegación de decisiones sensibles a sistemas automatizados que "no conocen la compasión, la misericordia, el perdón" y contra el tratamiento del resultado como neutral solo porque una máquina lo produjo.

Anthropic estuvo allí

La persona que compartió el escenario con León el lunes atrajo tanta atención como el propio documento. Christopher Olah, cofundador de Anthropic y jefe de su equipo de investigación de interpretabilidad, habló en la presentación de la Sala del Sínodo junto a dos cardenales del Vaticano y un par de teólogos.

Como informó Decrypt cuando León fue elegido, el papa enmarcó la IA como la cuestión moral central de su pontificado desde su primer discurso a los cardenales. La encíclica del lunes es la versión doctrinal formal de ese compromiso.

Olah aprovechó la ocasión para decir abiertamente lo que la mayoría de los ejecutivos de IA evitan: que cada laboratorio importante "opera dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto", y que el escrutinio externo —de gobiernos, instituciones religiosas y la sociedad civil— no es opcional. También señaló el desplazamiento laboral impulsado por la IA como un riesgo a corto plazo que, si se materializa a gran escala, crearía "un imperativo moral de proporciones históricas".

León ya había escrito la versión más dura de ese argumento. "Una IA más moral no es suficiente", afirma la encíclica, si la moralidad detrás de ella la establecen exclusivamente quienes controlan los datos y la computación. León expuso el mismo caso directamente a ejecutivos de Silicon Valley en el Vaticano en noviembre de 2025. El Vaticano también aprobó una nueva comisión interna de IA el 16 de mayo, que se nutrirá de siete departamentos para coordinar el trabajo de gobernanza de la IA en la Santa Sede en el futuro.