关于教皇利奥十四世 AI 通谕的笔记

2026 年 5 月 25 日

今天早上梵蒂冈发布了：教皇利奥十四世关于在人工智能时代保护人类尊严的通谕 Magnifica Humanitas。这是一份非常有趣的文件。这是我读过的关于 AI 融入现代社会伦理方面最清晰的文字之一。

教皇利奥十四世选择”利奥”这个名字，是为了纪念利奥十三世——他以 1891 年发布的关于”资本与劳动的权利和义务”的通谕 Rerum novarum 而闻名。

梵蒂冈新闻上的这篇报道进一步阐明了这一选择的意义：

在与枢机主教团的首次正式会面中，教皇利奥十四世解释了他选择教皇名号的部分原因。“这有不同的原因，“他说，接着解释他选择利奥这个名字”主要是因为利奥十三世在其历史性的通谕 Rerum novarum 中，在第一次伟大工业革命的背景下讨论了社会问题。” “在我们这个时代，“他继续说道，“教会向所有人提供其社会学说的宝库，以回应另一场工业革命以及人工智能领域的发展，这些发展对维护人类尊严、正义和劳动提出了新的挑战。”

现在我们得到了教皇利奥十四世关于 AI 革命的通谕。内容很丰富，但写作风格非常平易近人，包括对非天主教徒也是如此。

我的一些摘录

（我在遛狗散步时听完了通谕的大部分内容，这是我第一次尝试 ElevenReader iPhone 应用。它非常好用：我粘贴了文档的 URL，它就用非常高质量的语音朗读给我听，同时逐段高亮显示。）

以下是我的一些摘录。下面每段中的强调都是我加的。

这是第 98 节中对 LLM 可解释性问题的一个有用描述：

首先，关于 AI 的任何陈述都可能很快过时，因为这些系统发展的速度非凡。其次，我们所有人，包括设计这些系统的人，对其实际运作方式的理解都很有限。事实上，当前的 AI 系统与其说是”建造”出来的，不如说是”培育”出来的，因为开发者并不直接设计每一个细节，而是创建一个让智能”生长”的框架。 因此，基本的科学方面——例如这些系统的内部表征和计算过程——目前仍然是未知的。

我喜欢第 83 节关于发展与尊严关系的描述：

对个人和国家而言，发展既是义务也是权利。需要最低条件来使每个人和民族能够按照其尊严蓬勃发展，而不是被置于依赖状态或被排除在获取必要物资之外。当发展把人放在中心而不是财富积累时，当它关乎民族和个人时，发展才是真正人性化的。正义要求承认社会的权利和人民的权利，并包括对后代的责任。如果发展增加了一些人的消费，同时将成本和负担转嫁给其他人，或者将整个地区降格为从属角色，阻止其充分发挥潜力，那么这种发展就不是真正人性化的。

内置文化偏见和谄媚问题在第 100 节中被提及：

在个人使用方面，三个方面特别值得仔细考虑：获得结果的容易程度、客观性的印象以及对人类交流的模拟。信息、复杂分析、媒体内容和实际帮助的快速获取无疑使生活更加便利。然而，它们也可能助长过度依赖和寻求现成答案的习惯，削弱个人的创造力和判断力。这些系统提供的回应和建议表面上的客观性，可能使我们忽视它们反映的是设计和训练它们的人的文化假设，连同其优势和局限。 对积极人际交流的人工模仿——建议、同理心、友谊甚至爱的话语——可能很吸引人，有时确实有帮助。然而，对于不太有辨别力的用户来说，它也可能具有误导性，制造出与真实个人主体关系的幻觉。 当话语被模拟时，它们不会建立真正的关系，而只是关系的表象。当关心或支持的人工模仿进入缺乏真实关系和情感纽带的环境时，可能变得特别危险。

第 101 节涉及环境影响：

当前的 AI 系统需要大量的能源和水，显著影响二氧化碳排放，并对自然资源提出沉重需求。随着其复杂性的增加，特别是大型语言模型，对计算能力和存储容量的需求也在增长，这需要庞大的机器、电缆、数据中心和能源密集型基础设施网络。 因此，必须开发更可持续的技术解决方案，减少环境影响，帮助保护我们共同的家园。

第 102 节涉及算法系统在没有”同情、怜悯、宽恕”的情况下对人们生活做出影响决策的风险：

AI 的使用绝不仅仅是一个纯技术问题：当它进入影响人们生活的过程时，它涉及权利、机会、地位和自由。 重要且敏感的决定——关于就业、信贷、公共服务获取甚至个人声誉——面临被完全委托给不知道”同情、怜悯、宽恕，以及最重要的、人们能够改变的希望”的自动化系统的风险， 因此可能产生新的排斥形式。

第 105 节强调了在应用这些系统时人类问责的必要性：

为了使 AI 尊重人类尊严并真正服务于共同利益，必须在每个阶段明确界定责任：从设计和开发这些系统的人，到使用它们并依赖它们做出具体决定的人。 然而，在许多情况下，导致结果的内部过程仍然不透明，这使得分配责任和纠正错误变得更加困难。这正是问责制变得至关重要的地方：确定谁必须对决定”负责”、为其辩护、监督它们，并在必要时对它们提出质疑和补救造成的任何伤害的可能性。

第 108 节涉及 AI 如何放大掌握资源者的权力：

事实上，与每一次重大技术变革一样，AI 倾向于放大那些已经拥有经济资源、专业知识和数据访问权限的人的权力。 鉴于共同利益和物质的普遍目的，这引起了严重关切，因为小而极具影响力的群体可以塑造信息和消费模式，影响民主进程，并操纵经济动态以谋取私利，破坏社会正义和各民族之间的团结。因此，必须以明确的标准和有效的监督来指导 AI 的使用，特别是当它涉及公共物品和基本权利时，这种监督应建立在参与和辅助原则的基础之上。

同一节明确指出数据应被更多地视为公共物品：

[…] 此外，数据的所有权不能完全留在私人手中，而必须得到适当的监管。数据是许多贡献者的产物，不应被视为可以变卖或委托给少数人的东西。 必须创造性地思考如何以参与精神将数据作为共同或共享物品来管理，正如圣若望保禄二世已经就集体物品所建议的那样。

鉴于 Palantir 的名字来源于《指环王》的一个引用，我不禁想知道《王者归来》中的 J.R.R. 托尔金引文（第 213 节）是否是教皇在含蓄地讽刺 Peter Thiel。

二十世纪天主教作家 J.R.R. 托尔金借其小说中一位主角之口，如此描述我们的责任：“掌控世界所有潮流不是我们的本分，而是在我们所处的年代尽我们所能，在我们已知的田野中根除邪恶，让后来者有干净的土地可以耕耘。” 爱的文明不会源于单一或壮观的姿态，而是源于无数微小而坚定的忠诚行为的总和，这些行为构成了对抗非人化的堡垒。因此，值得停下来反思一下，我们每个人以自己的方式，如何能够合作建设爱的文明。

又一个 2026 年预测应验了

今年 1 月 6 日，我参加了 Oxide and Friends 2026 预测播客节目，讨论 2026、2029 和 2032 年的预测。我在这里写了我的预测，事后看来它们远不够大胆——LLM 能写好代码已经是不可否认的事实，我们在沙盒方面取得了巨大进展，新西兰鸮鹦鹉确实拥有了一个非常出色的繁殖季。

那期节目中有一段我没在文字版中收录的内容，但我现在忍不住要在这里提供经过轻微编辑的文字稿：

Bryan Cantrill: 37:13 我认为 AI 已经为自己制造了一些真正的公众认知问题。我认为今年你会看到某个前沿模型公司发布一份白皮书，解释 AI 的普及将如何为所有人带来繁荣。他们会试图提出某种经济论证——因为这将成为 2026 年的选举议题，我们如何看待这些事物、它们如何被监管，这是一团乱麻。这场辩论中热量多于光明。

Simon Willison: 38:05 我想在这个上面加一点：我认为只有当他们能通过现有的受信任专家来”洗白”这些内容时才有效。Sam Altman 和 Dario 不断发表关于这些内容的文章，但没人相信他们说的话。让 Barack Obama 在其中一份立场文件上签名，也许你就有了人们可能会开始信任的东西。

Adam Leventhal: 38:27 否则就像”含铅汽油对你有好处”，出自 Exxon 之口。

Bryan Cantrill: 38:31 确实，天哪。Obama… 就用这个吧，这个很好，因为如果是 Bill Clinton 的话大家都会翻白眼，所以得是一个真正有信誉的人说这将是广泛的基础… 我要说，如果他们让那个人来做这件事，最终会被揭露那也有些不正当。

Simon Willison: 38:57 教皇怎么样？

Bryan Cantrill: 39:01 教皇对这些事情非常感兴趣！这是一个很好的预测。我们挖到了宝。教皇对 LLM 及其对世界经济影响的表态。 Simon，如果教皇表态认为这将是经济灾难，我完全把功劳记在你头上。

考虑到利奥十四世/利奥十三世的关系（我在录制那期节目时还不知道），我这个预测现在看起来远没有那么有洞察力了！