财税与监管动态,一篇读懂

← 返回日报首页
AI来源 A2026.10.22

OpenAI API支持12小时提示缓存 长任务成本再降

OpenAI于10月20日更新API:Responses API(v1/responses)用户现可选择12小时提示缓存(12-hour prompt caching)。此前提示缓存默认约30分钟即过期,长间隔任务不得不反复为同一套指令、工具与上下文按全价输入付费;开启12小时档后,即使请求间隔数小时,共享前缀仍可按更低的缓存输入费率计费。

计费口径:写入贵2.5倍,命中才划算

按官方更新说明,12小时缓存的写入费用为输入token价格的2.5倍,命中缓存部分按缓存输入价计费(开发者社区实测约为输入价的一半)。是否划算取决于复用频次:反复调用同一长上下文的持续运行智能体、批量任务收益最大;一次性长提示反而更贵。OpenAI同步改版了Prompt Caching文档,模型价格表中新增了缓存写入列。

成本视角

对用API跑定时任务(日报抓取、对账、巡检)的财务自动化场景,12小时缓存直接压低重复上下文的账单:任务间隔在数小时内的,把固定指令段放在最前、变动数据放在后面,是零成本的优化。宜在自己的调用脚本里记录缓存命中率,用实测数据决定是否开启。

#OpenAI#API#提示缓存#成本优化
来源:OpenAI API Changelog(2026-10-20) · 分层 A · 查看原文
内容为 AI 聚合整理,完整信息以官方发布为准。