OpenAI API新增12小时Prompt缓存

OpenAI API近期更新了Prompt缓存功能，正式支持用户选择12小时的缓存时长。这一更新旨在优化持续运行的智能体（Agent）性能，允许其在请求间隔数小时的情况下，复用指令、工具和上下文信息，并享受更低的缓存输入费率。此外，针对Codex与Work平台中已登录的用户，其缓存数据将永久保留。这意味着用户在恢复旧对话或数小时后继续会话时，均能确保命中缓存，且不会因时间间隔产生额外惩罚或成本增加。该功能显著提升了长周期交互场景下的效率与经济性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。