发生了什么
OpenAI 于9月22日公布 GPT-6 提示缓存控制与诊断更新。重复上下文值得单独评估性能。
为何重要
代理请求经常重复指令、工具定义和仓库信息。缓存可能降低重复处理的成本,但命中率并不能说明上下文是否仍然正确。应区分稳定指令与频繁变化的任务状态。缓存也不等于长期记忆。
接下来检查什么
调整提示结构前先记录基线,包括可复用前缀、实际命中率、延迟和完成任务的成本。每次只改变一个变量,加入冷缓存测试,并验证供应商描述的收益能否在实际环境重现。
事件日期指原始公告日期,发布日期指本文首次刊登于 Codorc 的日期。



