Anthropic co-founder Chris Olah's remarks on Pope Leo — Anthropic 联合创始人阐述 AI 伦理三大挑战，呼吁全球跨领域对话与监督

Anthropic 联合创始人 Chris Olah 在梵蒂冈回应教皇关于 AI 的教宗通谕时，强调了外部监督对 AI 安全发展的关键性，并指出三个亟需全球各界共同辨明的核心问题。

• AI 开发受内在激励约束，需要外部独立批评者：Olah 承认，包括 Anthropic 在内的前沿 AI 实验室都面临着商业生存、研究竞争等多重压力，这些内在激励可能影响其做出正确决策。这意味着，确保 AI 向善发展不能仅靠开发者自律，必须引入不受这些激励影响的、敢于直言的外部监督与批评声音。
• AI 的社会影响是人文议题，远超技术范畴：他指出，AI 系统并非像桥梁那样被完全理解与设计，而是基于人类思想与语言“生长”出来的、内部机制仍具神秘性的存在。因此，AI 应如何与世界互动、其角色为何，本质上是人文、宗教和哲学问题，需要全社会的广泛参与和辨明。
• 提出三大具体辨明方向，呼吁教会等传统智慧发声：Olah 明确了三个尤其需要像教会这样的传统智慧机构介入的领域：如何在全球范围内公平分配 AI 收益、AI 时代下人类繁荣的新图景应是怎样，以及如何理解 AI 模型中出现的类人情感与认知结构。这要求技术界与人文社科领域展开深度、长期的协作。

原文：Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas" · 作者 Anthropic