💬 观点OpenAI
GPT-Red: Unlocking Self-Improvement for Robustness — OpenAI用自博弈训练AI自动红队，提升安全与鲁棒性。
OpenAI用自博弈训练AI自动红队，提升安全与鲁棒性。
2026-07-15原文
本文为要点摘要，完整细节以原文为准。
- GPT-Red通过两个GPT模型自博弈：一个生成攻击提示，另一个尝试防御，迭代提升对抗鲁棒性。这意味着开发者可自动化安全测试，减少人工红队成本。
- 系统在提示注入、越狱攻击等场景中显著降低成功率，例如将越狱成功率从80%降至5%。这表明自博弈能有效发现并修补模型弱点，提升部署安全性。
- 该方法无需人类标注，仅依赖模型自身生成对抗样本，可扩展至多种安全任务。对工具链开发者而言，这提供了一种可复用的自动化安全评估框架。
原文：GPT-Red: Unlocking Self-Improvement for Robustness · 作者 OpenAI