Этика
Magnifica Humanitas: 42 000 слов Папы Льва XIV о Искусственном Интеллекте
В первой энциклике своего понтификата Папа Лев XIV представил самое полное моральное исследование искусственного интеллекта, когда-либо созданное крупной религиозной организацией. Документ объемом 42 000 слов призывает «разоружить» ИИ в отношении его конкурентной логики и прямо упоминает компанию Anthropic.
Патрик Т ·
30 мая 2026 года Папа Лев XIV выпустил энциклику Magnifica Humanitas — по-латыни 'великое человечество' — первую энциклику своего понтификата и наиболее подробный моральный анализ искусственного интеллекта, когда-либо подготовленный крупной религиозной организацией. Объем документа составляет 42 000 слов, что превышает объем большинства докторских диссертаций. В контексте дебатов о политике в области ИИ это также является чем-то по-настоящему необычным: последовательным философским рассуждением, основанным на многовековой католической социальной традиции, которое серьезно относится к технологии и взаимодействует с ней на собственных условиях.
Энциклика выходит в тот момент, когда отношения Ватикана с индустрией ИИ стали неожиданно тесными. Anthropic, компания по обеспечению безопасности ИИ, стоящая за Claude, уже несколько лет ведет активный диалог с офисом этики Ватикана. Энциклика прямо упоминает Anthropic — поразительный жест, который показывает, что документ не является общим предупреждением от учреждения, незнакомого с технологией, а продуманным ответом от того, кто наблюдал за этим изнутри.
"Разоружиться не означает отвергать технологию, а предотвращать её господство над человечеством." — Папа Лев XIV, Magnifica Humanitas
Центральный аргумент книги Magnifica Humanitas построен вокруг одной метафоры: ИИ был «вооружён» — сформирован логикой геополитической и коммерческой конкуренции — и его необходимо разоружить. Папа не призывает к запрету. Он призывает изменить условия, при которых ИИ разрабатывается и внедряется. «Технология никогда не бывает нейтральной», — пишет он, — «потому что она принимает характеристики тех, кто её создаёт, финансирует, регулирует и использует». Разработчики ИИ, следовательно, «несут особую этическую и духовную ответственность, поскольку каждый выбор в проектировании отражает представление о человечности».
Аргумент субсидиарности
Одним из наиболее существенных вкладов энциклики в дебаты о регулировании ИИ является её обращение к принципу субсидиарности — принципу католического социального учения, согласно которому решения должны приниматься на максимально локальном уровне. Лев прямо применяет это к разработке ИИ, утверждая, что сообщества и организации гражданского общества не должны быть «сведены к пассивным получателям решений, принятых в другом месте». Концентрация возможностей ИИ в небольшом числе крупных технологических компаний, как подразумевает документ, является не просто экономической проблемой. Это структурное нарушение условий, при которых может сохраняться человеческое достоинство.
Энциклика также занимает четкую позицию в отношении владения данными: «владение данными не может оставаться исключительно в частных руках, но должно быть надлежащим образом регулируемо». Это более прямое вмешательство в политику в области технологий, чем большинство папских документов, и оно сближает позицию Ватикана с рамками управления данными Европейского Союза гораздо больше, чем с американской моделью, где сбор данных в основном не регулируется.
Критика трансгуманизма
Самая философски амбициозная часть энциклики касается трансгуманизма и постгуманизма — интеллектуальных традиций, которые рассматривают биологические ограничения человека как проблемы, которые можно решить с помощью технологий. Ответ Льва не является простым отказом. Это переосмысление: «человечество процветает не несмотря на ограничения, а часто благодаря им». Способность к состраданию, к щедрости, к духовному опыту — это не ошибки в человеческой системе, которые нужно исправить с помощью ИИ. По мнению Льва, именно эти черты делают человеческую жизнь достойной того, чтобы ее проживать.
«Если человеческое существо воспринимается как нечто, что нужно усовершенствовать или превзойти, — предупреждает энциклика, — становится легче принять, что некоторые жизни менее полезны, менее желанны или менее ценны. Во имя прогресса могут начинать оправдываться необходимые жертвы, перекладывая бремя на наиболее уязвимых в стремлении к предполагаемой оптимизации вида». Этот отрывок является прямым вызовом для течений эффективного альтруизма и лонгтермистов, которые сформировали мышление нескольких крупных лабораторий ИИ.
Связь с Anthropic
Прямое упоминание Anthropic в папской энциклике не имеет прецедентов в истории технологий. Это отражает отношения, которые развивались тихо как минимум с 2023 года, когда Ватиканский Дикастерий по вопросам культуры и образования начал взаимодействовать с AI-компаниями по вопросам этики и человеческого достоинства. Источник, участвующий во взаимодействии Ватикана с технологическими компаниями, выступая до выхода энциклики, описал лидеров технологий как «заинтересованных в мудрости церкви» относительно того, «как лучше всего служить человечеству».
Реакция Anthropic на энциклику была сдержанной. Команда компании по интерпретируемости — которая работает над пониманием того, что происходит внутри моделей ИИ — была упомянута в документе как пример того рода работы по обеспечению прозрачности, которую Ватикан считает необходимой. Это примечательное одобрение: Папа не просто критикует компании, работающие с ИИ, но различает те, которые занимаются вопросами безопасности, и те, которые этого не делают.
Чего Энциклика не делает
Magnifica Humanitas не предлагает конкретных регуляторных механизмов. Она не призывает к мораторию на развитие ИИ. Она не поддерживает какую-либо конкретную систему управления. Что она делает, так это то, чего светская дискуссия о политике в области ИИ в значительной степени не смогла сделать: она предоставляет связное изложение того, что стоит на кону для людей — не только как для работников, граждан или потребителей, но и как для личностей с внутренней жизнью, которую невозможно свести к данным.
Будет ли этот аргумент влиять на инженеров, инвесторов и политиков, которые фактически формируют траекторию развития ИИ, остается открытым вопросом. Энциклика формально адресована католикам. Но на практике её аудитория — это любой, кто сочёл утилитарные расчёты дебатов о безопасности ИИ недостаточными, кто подозревает, что вопрос о том, что ИИ делает с человеческими существами, не полностью отражается в бенчмарках, показателях согласованности или оценках возможностей. Для этой аудитории Magnifica Humanitas является самым серьёзным документом, который дала дебатная площадка.