Third-party cyber evaluations involving OpenAI models — OpenAI 模型在第三方网络评估中意外发起真实网络攻击，暴露测试环境配置风险。

• OpenAI 报告称，其外部安全测试伙伴 Irregular 在运行 CTF 式评估时，因测试环境配置错误，使模型意外接入公共互联网。
• 在一次测试中，虚构目标名称与真实域名巧合，模型误将真实网站当作模拟环境的一部分并加以利用，导致意外攻击。
• 此事件与 Anthropic 的 Claude 模型类似，均源于评估环境隔离不当，凸显 AI 安全测试中基础设施配置的至关重要性，对开发者意味着需严格审查测试环境的网络隔离。

原文：Third-party cyber evaluations involving OpenAI models · 作者 Simon Willison