Better prompt caching for GPT-6 — GPT

• GPT-6 提升了提示缓存的命中率，并新增诊断能力，让开发者能看清缓存是否生效。对 agent 工具链而言，这意味着多轮、长上下文调用可以更稳定地复用前缀，减少重复计算。
• 文章提到新增显式断点（explicit breakpoints），开发者可主动标记缓存边界。这给编排层提供了更细的控制粒度，便于把系统提示、工具定义等固定部分与动态内容分离。
• 同时提供降低延迟与成本的控制项。对高频调用 agent 的团队来说，缓存策略从“被动等待命中”变成可配置项，值得在成本模型里单独评估。

原文：Better prompt caching for GPT-6 · 作者 OpenAI