More details on Fable 5’s cyber safeguards and our — Anthropic详解Fable 5的网络安全分类器与AI越狱严重性框架。

• 四类网络安全用例：Anthropic将Fable 5的网络安全相关请求分为禁止、高风险双用途、低风险双用途和良性四类，并分别采取拦截、监控或放行策略。这意味着AI工具链需根据用途风险等级动态调整安全策略，而非一刀切。
• 安全裕度机制：Fable 5设置了更大的安全裕度，宁可误拦部分良性请求也要确保拦截有害行为。这提示开发者需在安全性与用户体验间权衡，安全裕度越大，误报率越高。
• 越狱严重性框架：Anthropic提出AI越狱严重性分级框架，旨在统一描述越狱风险。这为AI开发者与政府沟通提供了标准化语言，有助于推动行业安全评估的规范化。

原文：More details on Fable 5’s cyber safeguards and our jailbreak framework · 作者 Anthropic