跳到正文
原文
OpenAI News·· 6 天前AI 评分38

GPT-6 如何通过更优提示词缓存降低延迟与成本

Better prompt caching for GPT-6

AI 导读

GPT-6 改进了提示词缓存机制,实现更高的缓存命中率,并新增诊断工具、显式断点及控制选项,以降低延迟和成本。这些功能旨在帮助开发者更高效地管理缓存行为,优化 API 调用性能。

来源:OpenAI News · openai.com