prompt-caching-strategy

关于 prompt-caching-strategy

优化 LLM 提示词缓存命中率，以降低 API 成本并改善延迟。分析提示词结构，区分可缓存与不可缓存内容，并建议调整结构以最大限度地复用缓存。触发条件：用户提及“提示词缓存”“缓存命中率”“降低 LLM 成本”“优化令牌用量”“更便宜的 LLM 调用”，或询问 OpenAI/Anthropic/其他提供商的提示词缓存策略。不触发条件：用户只想优化单条提示词的质量（改用 prompt-optimizer），或询问通用缓存基础设施。