Paus Leo XIV menerbitkan ensiklik pertamanya pada hari Senin, sebuah dokumen setebal 245 paragraf yang sepenuhnya didedikasikan untuk kecerdasan buatan yang menuntut pengawasan yang lebih ketat terhadap Big Tech, mengklasifikasikan data sebagai sumber daya manusia bersama, dan berpendapat bahwa "teknologi tidak pernah netral" karena menyerap nilai-nilai, titik buta, dan insentif ekonomi dari siapa pun yang membangunnya.
Dokumen, Magnifica Humanitas ("Kemanusiaan yang Agung"), dirilis di Aula Sinode Vatikan pada 25 Mei. Paus Leo menandatanganinya 10 hari sebelumnya, pada 15 Mei, peringatan ke-135 Rerum Novarum—ensiklik tahun 1891 oleh Paus Leo XIII tentang hak-hak buruh yang menjadi fondasi ajaran sosial Katolik modern.
Paus Leo secara konsisten membingkai AI sebagai tantangan moral yang menentukan kepausannya, dan membandingkan gejolak sosial yang akan datang dengan Revolusi Industri.
Ensiklik ini mencakup banyak bidang: AI dalam peperangan, dehumanisasi, teknokrasi, kolonialisme data, keamanan anak daring, pengangguran massal, disinformasi, senjata otonom, dan bahkan transhumanisme. Namun argumen yang mengikatnya bersama sederhana. Setiap algoritma mencerminkan prioritas orang-orang yang merancang, mendanai, dan menyebarkannya. Membangun sistem yang berpura-pura sebaliknya tidak menghilangkan bias tersebut—itu hanya menyembunyikannya.
Data adalah milik semua orang. Termasuk milik Anda.
Ajaran sosial Katolik telah lama berpendapat bahwa sumber daya alam bumi dimaksudkan untuk seluruh umat manusia, bukan pemilik pribadi. Leo memperluas prinsip itu langsung ke ekonomi digital. Algoritma, platform, dan data, ensiklik itu berpendapat, harus diatur sebagai barang umum, tidak terkunci di balik tembok komersial oleh beberapa perusahaan.
"Data adalah produk dari banyak kontributor dan tidak boleh diperlakukan sebagai sesuatu yang dijual atau dipercayakan kepada segelintir orang terpilih," tulis paus.
Teks tersebut juga menerapkan subsidiaritas—prinsip bahwa keputusan harus dibuat pada tingkat selokal mungkin—khususnya pada platform teknologi. Ensiklik itu tidak hanya menyerukan regulasi top-down; melainkan mengadvokasikan algoritma transparan, audit komunitas independen, dan kekuatan hukum nyata bagi orang-orang untuk menantang sistem otomatis yang memengaruhi skor kredit mereka, lamaran pekerjaan, atau penilaian risiko kriminal. Tanpa pengawasan terdistribusi tersebut, Leo berpendapat, tata kelola AI menjadi bentuk otoritarianisme digital yang membungkam populasi yang diklaimnya dilayani.
Ensiklik itu juga menargetkan transhumanisme—gagasan bahwa keterbatasan dan kerentanan manusia adalah cacat yang harus dihilangkan melalui rekayasa. Tanggapan Leo adalah bahwa kefanaan bukanlah bug. Itulah yang memungkinkan empati, penilaian moral, dan kepedulian tulus terhadap orang lain. Sistem yang dibangun untuk mengoptimalkannya tidak menghasilkan manusia yang lebih baik. Mereka menghasilkan sesuatu yang mengevaluasi dan mengecualikan yang rentan dengan lebih efisien.
Paus berhati-hati untuk tidak menganthropomorfisasi teknologi. Sistem AI, ensiklik itu menyatakan, "tidak memiliki tubuh, tidak merasakan kegembiraan atau rasa sakit," tulisnya. Ensiklik itu mencatat bahwa sistem AI tidak memiliki pengalaman hidup yang menghasilkan pemahaman nyata. Mereka dapat mensimulasikan empati dan menghasilkan bahasa yang meyakinkan, tetapi mereka tidak memahami apa yang mereka hasilkan.
Perbedaan itu penting secara praktis. Ketika algoritma membuat keputusan perekrutan, menetapkan persyaratan kredit, atau menetapkan skor risiko di pengadilan, objektivitasnya yang tampak mengaburkan pilihan-pilihan yang sudah diintegrasikan oleh para perancangnya. Ensiklik itu secara khusus memperingatkan agar tidak mendelegasikan keputusan sensitif kepada sistem otomatis yang "tidak mengenal belas kasihan, kemurahan hati, pengampunan" dan agar tidak memperlakukan hasilnya sebagai netral hanya karena sebuah mesin yang menghasilkannya.
Anthropic Hadir
Orang yang berbagi panggung dengan Leo pada hari Senin menarik perhatian sebanyak dokumen itu sendiri. Christopher Olah—co-founder Anthropic dan kepala tim riset interpretasinya—berbicara pada presentasi di Aula Sinode bersama dua kardinal Vatikan dan sepasang teolog.
Seperti yang dilaporkan Decrypt ketika Leo terpilih, paus membingkai AI sebagai pertanyaan moral utama kepausannya sejak pidato pertamanya kepada para kardinal. Ensiklik hari Senin adalah versi doktrinal formal dari komitmen tersebut.
Olah menggunakan kesempatan itu untuk mengatakan secara terbuka apa yang sebagian besar eksekutif AI hindari: bahwa setiap laboratorium besar "beroperasi di dalam serangkaian insentif dan batasan yang terkadang dapat bertentangan dengan melakukan hal yang benar," dan bahwa pengawasan eksternal—dari pemerintah, institusi keagamaan, dan masyarakat sipil—bukanlah pilihan. Ia juga menyoroti dislokasi tenaga kerja yang didorong AI sebagai risiko jangka pendek yang, jika terwujud dalam skala besar, akan menciptakan "keharusan moral proporsi historis."
Leo telah menulis versi yang lebih keras dari argumen itu. "AI yang lebih bermoral tidak cukup," ensiklik itu menyatakan, jika moralitas di baliknya diatur secara eksklusif oleh siapa pun yang mengendalikan data dan komputasi. Leo menyampaikan kasus yang sama secara langsung kepada para eksekutif Silicon Valley di Vatikan pada November 2025. Vatikan juga menyetujui komisi AI internal baru pada 16 Mei yang terdiri dari tujuh departemen untuk mengkoordinasikan pekerjaan tata kelola AI di seluruh Takhta Suci ke depannya.
