top-k值配置
top-k值表示向量检索了多少个候选文档/切片
- 在 RAG 里，top-k 可以理解为：用户提问后，从知识库里检索出“最相关的前 多少个片段”，再把这些片段交给大模型生成答案。
- Top-k值太小，可能会遗漏答案
- Top-k值太大，可能会带来无关的chunk、带来噪音，从而干扰影响模型生成
top-k = 3
=> 向量数据库返回最相似的前 3 个 chunk
top-k = 10
=> 返回前 10 个 chunk
如何配置
- 需要根据业务场景来配置，没有特定的标准
- 一般项目，通常的配置是top-k为5-10