[AINews] Agents disprove Polysemanticity; greatly — Goodfire 的 Nick Cammarata 提出神经网络其实已经\"干净\"

• 核心论点：网络本就"干净"。Cammarata 认为，在参数量高达万亿级的模型中，大多数神经元是可读的；过去被视为多义性、叠加态造成的"权重死结"，在更进一步的 agent 式分析下往往自行化解。含义：可解释性工具链可以从"人工逐层拆解"转向"agent 自动追问"。
• 与既有工作的承接。文章提到 Goodfire 今年 2 月的工作，以及此前与 Anthropic 关于可解释性方法随规模扩展的讨论，说明这一结论建立在已有自动化可解释性研究之上。含义：agent 驱动的分析正成为可解释性方法扩展的主要路径。
• 对 P(doom) 的影响。作者将这一进展与"全球 P(doom) 下降"联系起来，认为可解释性与对齐的改善值得关注。含义：对齐评估的可信度可能随分析工具增强而提升，但结论仍属作者工作假设。

原文：[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment · 作者 Latent Space