💬 观点Anthropic
Announcing our updated Responsible Scaling Policy — Anthropic 更新其负责任扩展政策，引入更灵活的风险治理框架，为 AI 安
Anthropic 更新其负责任扩展政策，引入更灵活的风险治理框架，为 AI 安全实践提供具体参考。
2026-06-09原文
本文为要点摘要，完整细节以原文为准。
🧭 一图看懂
由原文自动提炼 · 以原文为准点击任一分支，查看这一点的一句话解读
Anthropic 更新负责任扩展政策
未落实充分安全保障前，不训练也不部署模型
- 按风险比例配置防护，风险越高措施越严
- 沿用 AI Safety Level（ASL）分级标准
⚙️ 流程拆解
STEP 1评估模型能力
STEP 2对照能力阈值
STEP 3确定所需 ASL 标准
STEP 4实施安全与安保措施
STEP 5记录并接受内外部审查
🔗 涉及的概念与玩家
- Anthropic公司
- Responsible Scaling Policy概念
- ASL Standards概念
- Capability Thresholds概念
- CBRN概念
- safety case方法
- chain-of-thought方法
- Anthropic—发布→Responsible Scaling Policy
- Responsible Scaling Policy—采用→ASL Standards
- Responsible Scaling Policy—定义→Capability Thresholds
- Capability Thresholds—涵盖→CBRN
- Responsible Scaling Policy—借鉴→safety case
- Responsible Scaling Policy—提及→chain-of-thought
Anthropic 发布了其负责任扩展政策（RSP）的重大更新，这是一个用于管理前沿 AI 系统潜在灾难性风险的治理框架。
- 引入分级安全标准（ASL）：政策采用类似生物安全等级的 AI 安全等级标准，要求保障措施与模型能力带来的潜在风险成比例。这意味着开发更强大的 AI 需要配套更严格的安全与控制协议。
- 定义关键能力阈值：政策明确设定了两个关键能力阈值，一旦模型达到，就必须升级保障措施。例如，如果模型能自主进行复杂的 AI 研究，或能实质性地协助制造 CBRN 武器，则需触发更高级别的安全标准。这为风险评估提供了具体的、可操作的触发点。
- 强调评估与治理流程：更新后的框架建立了常态化的能力评估与保障措施评估流程，并借鉴高可靠性行业的实践来记录决策。这表明健全的 AI 治理不仅需要技术护栏，还需要结构化的内部流程和外部专家输入。
原文：Announcing our updated Responsible Scaling Policy · 作者 Anthropic
🕸 顺着图谱继续读
- Stealing Reasoning Traces from Proprietary LLM APIs — 研究者从专有LLM API中窃取隐藏推理链，揭示加密缺陷与安全漏洞。2026-08-11 · 共同涉及 Anthropic、chain-of-thought
- claude-code v2.1.156 — 修复 Opus 4.8 思维块被修改导致的 API 错误，确保推理流程稳定。2026-05-29 · 共同涉及 Anthropic、chain-of-thought
- [AINews] How to steal a Reasoning Trace — 前沿模型隐藏推理被破解，隐私风险与蒸馏争议并存。2026-08-12 · 共同涉及 chain-of-thought
- Why We Think — 探讨测试时计算与思维链如何提升模型性能，揭示其背后的原理与最新进展。2025-05-01 · 共同涉及 chain-of-thought