Папа Лев XIV опублікував у понеділок свою першу енцикліку – 245-абзацний документ, повністю присвячений штучному інтелекту, який вимагає посилення нагляду за великими технологічними компаніями, класифікує дані як спільний людський ресурс і стверджує, що "технологія ніколи не є нейтральною", оскільки вона поглинає цінності, сліпі зони та економічні стимули тих, хто її створює.
Документ, Magnifica Humanitas ("Величне людство"), був оприлюднений у Синодальній залі Ватикану 25 травня. Папа Лев підписав його на 10 днів раніше, 15 травня, у 135-ту річницю Rerum Novarum — енцикліки Папи Лева XIII 1891 року про права на працю, яка стала основою сучасного католицького соціального вчення.
Папа Лев послідовно розглядав ШІ як головний моральний виклик свого папства і порівнював майбутні соціальні потрясіння з тими, що були під час Промислової революції.
Енцикліка охоплює широкий спектр тем: ШІ у війні, дегуманізація, технократія, дата-колоніалізм, безпека дітей онлайн, масове безробіття, дезінформація, автономна зброя і навіть трансгуманізм. Але аргумент, що їх об'єднує, простий. Кожен алгоритм відображає пріоритети людей, які його розробили, профінансували та впровадили. Створення систем, що вдають протилежне, не усуває цього упередження — воно просто приховує його.
Дані належать усім. Включно з вашими.
Католицьке соціальне вчення давно стверджує, що природні ресурси Землі призначені для всього людства, а не для приватних власників. Лев поширює цей принцип безпосередньо на цифрову економіку. Алгоритми, платформи та дані, стверджує енцикліка, повинні регулюватися як спільні блага, а не бути замкненими за комерційними стінами кількох компаній.
"Дані є продуктом багатьох учасників і не повинні розглядатися як те, що можна продати або довірити обраним", — пише Папа.
Текст також застосовує принцип субсидіарності — принцип, згідно з яким рішення повинні прийматися на максимально місцевому рівні — конкретно до технологічних платформ. Енцикліка не просто закликає до регулювання згори; натомість вона виступає за прозорі алгоритми, незалежні аудити спільноти та реальну юридичну можливість для людей оскаржувати автоматизовані системи, які впливають на їхні кредитні рейтинги, заявки на роботу або оцінки кримінальних ризиків. Без такого розподіленого нагляду, стверджує Лев, управління ШІ стає формою цифрового авторитаризму, який замовчує населення, якому він нібито служить.
Енцикліка також критикує трансгуманізм — ідею, що людські обмеження та вразливість є недоліками, які потрібно усунути за допомогою технологій. Лев заперечує, що кінцівка не є помилкою. Саме вона робить можливими співчуття, моральні судження та справжню турботу про інших людей. Системи, створені для оптимізації цього, не створюють кращої людини. Вони створюють щось, що ефективніше оцінює та виключає вразливих.
Папа обережний, щоб не антропоморфізувати технологію. Системи ШІ, заявляє енцикліка, "не мають тіла, не відчувають радості чи болю", — пише він. Енцикліка зазначає, що системам ШІ бракує життєвого досвіду, який створює справжнє розуміння. Вони можуть симулювати емпатію та створювати переконливу мову, але вони не розуміють того, що генерують.
Ця відмінність має практичне значення. Коли алгоритм приймає рішення про найм, встановлює умови кредиту або присвоює оцінку ризику в суді, його удавана об'єктивність приховує вибір, закладений його розробниками. Енцикліка конкретно застерігає від делегування чутливих рішень автоматизованим системам, які "не знають співчуття, милосердя, прощення", а також від трактування результату як нейтрального лише тому, що його створила машина.
Anthropic був там
Особа, яка ділила сцену з Левом у понеділок, привернула стільки ж уваги, скільки й сам документ. Крістофер Ола — співзасновник Anthropic і керівник його дослідницької групи з інтерпретовності — виступив на презентації в Синодальній залі разом із двома ватиканськими кардиналами та парою теологів.
Як повідомляв Decrypt, коли Лева обрали, Папа з самого першого звернення до кардиналів назвав ШІ центральним моральним питанням свого понтифікату. Понеділкова енцикліка є офіційною доктринальною версією цього зобов'язання.
Ола використав цю нагоду, щоб відкрито сказати те, чого більшість керівників ШІ уникають: що кожна велика лабораторія "працює в межах набору стимулів та обмежень, які іноді можуть конфліктувати з правильними діями", і що зовнішній контроль — з боку урядів, релігійних інституцій та громадянського суспільства — не є необов'язковим. Він також зазначив, що витіснення робочої сили, спричинене ШІ, є короткостроковим ризиком, який, якщо він реалізується у великих масштабах, створить "моральний імператив історичних масштабів".
Лев вже написав більш жорстку версію цього аргументу. "Більш морального ШІ недостатньо", — зазначає енцикліка, якщо моральність, що стоїть за ним, визначається виключно тими, хто контролює дані та обчислювальні потужності. Лев представив той самий аргумент безпосередньо керівникам Кремнієвої долини у Ватикані в листопаді 2025 року. Ватикан також затвердив нову внутрішню комісію з питань ШІ 16 травня, залучивши сім департаментів для координації роботи з управління ШІ в рамках Святого Престолу надалі.
