产品与服务

OpenAI Responses API新增12小时缓存,可按前缀混用缓存时长

Prompt caching

AI 基础设施推理服务

概述

OpenAI为Responses API中的GPT-5.6及后续模型增加12小时最低缓存时长,通过prompt_cache_options.ttl选择12h,默认仍为30m,也可在一个请求的不同断点混用。12小时和30分钟缓存写入分别按普通输入费率的2.5倍与1.25倍计价,缓存读取费率不因时长改变;同一token按覆盖它的最长选定写入时长计费。复用仍要求精确前缀匹配并达到对应模型的最低可缓存长度。12小时是最低保留选项,不是到点删除承诺;长期Agent应结合真实命中token、写入量与总成本判断是否启用。