检索缓存
检索缓存的目的，是减少重复 embedding、重复向量检索、重复 rerank，从而降低延迟和成本
-
降低延迟和成本，提高响应速度
-
检索结果缓存
-
Query Embedding 缓存top
处理缓存失效
缓存最难的是失效。
以下情况必须让缓存失效：
文档更新
chunk 更新
权限变更
embedding 模型变更
reranker 模型变更
检索策略变更
prompt 版本变更
常见做法是引入版本号：
knowledge_base_version = kb_v20260615_001
retrieval_strategy_version = retrieval_v3
prompt_version = prompt_v5
缓存 key 里带版本号，一旦版本变了，旧缓存自然不会命中