Quoting Jeremy Howard — Jeremy Howard 提出减缓 AI 自我迭代的简单方案：领先实验室应自律

本文引述了 Jeremy Howard 在社交媒体上提出的一个关于 AI 安全与治理的观点。

• 核心提议：他认为，如果目标是减缓递归式的 AI 自我改进，最直接的方案是要求拥有顶级模型的实验室承诺不将其用于前沿 AI 研究，但允许其他方访问该模型。这理论上能阻滞前沿进展并避免危险的权力失衡。
• 现实对照：他指出 Anthropic 的做法恰恰相反——作为当前领先的实验室，他们允许自己使用顶级模型（如 Claude）进行前沿研究，并声称会阻挠他人的类似尝试。这反而会加速 AI 前沿发展并加剧权力集中。
• 个人立场：Howard 澄清自己并非支持减速，而是主张尽可能开放和民主化。他的论点在于逻辑一致性：若声称需要减速，那么拥有最佳模型的机构自身应首先受限。 这对 Agent/工具链开发者及更广泛的 AI 社区而言，突显了技术开放与集中控制之间的根本张力，以及在构建未来基础设施时需深思的治理模型选择。

原文：Quoting Jeremy Howard · 作者 Simon Willison