跳到正文
原文
AIHOT · AI 精选· noreply@aihot.news (Tibo)·· 3 小时前AI 评分72

OpenAI API 新增 12 小时 Prompt 缓存选项

OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留

AI 导读

OpenAI API 现已支持选择 12 小时的 prompt 缓存,允许持续运行的智能体在请求间隔数小时的情况下复用指令、工具和上下文,并享受更低的缓存输入费率。此外,Codex 与 Work 中已登录用户的缓存将永久保留,恢复旧对话或数小时后继续会话均保证命中缓存且无额外惩罚。

来源:AIHOT · AI 精选 · aihot.news