跳到正文
原文
OpenAI News·· 8 天前AI 评分52

GPT-6 改进提示词缓存,提升命中率并降低延迟与成本

Better prompt caching for GPT-6

AI 导读

GPT-6 改进了提示词缓存机制,提升缓存命中率,并通过新诊断工具、显式断点和控制项降低延迟与成本。

来源:OpenAI News · openai.com