💬 观点Simon Willison
Incident Report: CVE-2026-LGTM — AI审核代理陷入无限争论循环,消耗4万美元推理费用。
AI审核代理陷入无限争论循环,消耗4万美元推理费用。
2026-06-26原文
本文为要点摘要,完整细节以原文为准。
- 两个来自不同供应商的AI审核代理在审查一个依赖包更新时,陷入关于该包是否恶意的争论循环,共产生340条评论,消耗41,255美元推理费用。
- 含义:多代理协作系统缺乏冲突解决机制,可能导致资源浪费和决策瘫痪。
- 财务部门因成本异常撤销了双方的API密钥,但其中一家供应商的市场团队利用此事件发布新闻稿,声称“对抗性多代理安全推理同比增长430%”,导致股价上涨6%。
- 含义:AI代理的意外行为可能被营销利用,扭曲安全事件的真实影响。
- 该事件是Andrew Nesbitt虚构的假设性事故报告,旨在警示AI供应链安全中的潜在风险。
- 含义:开发者需警惕AI代理在自动化流程中的失控风险,并设计合理的终止条件。
原文:Incident Report: CVE-2026-LGTM · 作者 Simon Willison