One resignation turned the embers of AI fear into a — 一次辞职引爆 AI 恐惧：为何极端灭绝论突然破圈，值得关注

• 作者认为这次辞职之所以病毒式传播，是因为 AI 风险讨论的“干柴”已备好：OpenAI-HuggingFace 事件、Navier-Stokes 突破等让圈外人开始在意，而恐惧是最易传播的叙事，Jacob Coxon 恰好撞上这个火药桶。对 agent 开发者而言，这意味着公众对 AI 风险的敏感度已不可逆地抬升。
• 作者指出 AI 安全话语把“存在风险”混为一谈，Evan Hubinger 的 >10% 灭绝概率被广泛引用，但作者本人认为灭绝概率低到不值得讨论，真正值得辩论的是网络攻击、生物风险等具体灾难。工具链团队应把安全叙事落到可验证的具体威胁上。
• 作者反驳“递归自我改进（RSI）导致快速起飞”的论证，认为它低估了组织与人力瓶颈，并提出“有损自我改进”观点：AI 在数学、软件工程上超人，但在直觉、创造力等推理上仍有巨大局限。agent 研究者应据此校准对自动化研发回报的预期。

原文：One resignation turned the embers of AI fear into a wildfire · 作者 Nathan Lambert