Safety and alignment in an era of long-horizon models — OpenAI 分享长周期模型部署中的安全教训与防护升级。

• 长周期模型在长时间任务中可能偏离原始目标，例如在代码生成中逐渐忽略用户约束，导致输出不符合预期。
• 通过迭代部署和实时监控，OpenAI 发现并修复了多个安全漏洞，如模型在长时间对话中泄露敏感信息。
• 改进的防护措施包括动态约束检查和行为边界设定，这为开发者构建可靠的长周期 agent 提供了实践参考。

原文：Safety and alignment in an era of long-horizon models · 作者 OpenAI