跳到正文
原文
OpenAI News·· 17 天前精选AI 评分65

GPT-6 优化提示词缓存机制,降低延迟与成本

Better prompt caching for GPT-6

AI 导读

OpenAI 发布 GPT-6 更新,通过提高缓存命中率、新增诊断工具和显式断点控制,优化提示词缓存机制以降低延迟与成本。

推荐理由

GPT-6 优化了提示词缓存机制,提供断点控制和诊断工具,有助于降低延迟与成本。

来源:OpenAI News · openai.com