OpenAI API 新增 12 小时提示缓存,写入价为输入价的 2.5 倍
缓存寿命从默认的 30 分钟拉长到 12 小时:间隔几个小时的请求也能吃到缓存价,但写入要多付钱。
// 要点
- Responses API 可以选择 12 小时缓存,让共享的指令、工具和上下文缓存更久,即使请求相隔数小时也能享受更低的缓存输入价。
- 12 小时缓存写入按输入 token 价格的 2.5 倍计费;默认的 30 分钟缓存写入是 1.25 倍。
- 同一请求可以同时设置 12 小时和 30 分钟两个断点;把已有的 30 分钟缓存升级到 12 小时,要重新按 12 小时写入计费,之前的写入不抵扣。
开发者视角这正好接上昨天 Cloudflare 那条:降本先看缓存结构。我会把 PandaClaws 里每天反复用、但请求间隔超过半小时的系统提示单独挑出来,放在 12 小时断点前,会话内容仍留在 30 分钟断点;先按自己的调用间隔算一下,一段前缀一天至少要被复用几次,2.5 倍的写入价才划算。