跳到主要内容

生成结果错误排查

生成结果错误,判断是否检索错了还是模型生成错了,检索日志,从日志判断检索的内容,是否包含了结果,如果没有,则需要检查检索的链路,如果检索结果没问题,需要检查大模型生成逻辑

  • 先看检索结果里有没有正确答案;有答案但模型没答对,是生成问题;没答案,是检索链路问题。

核心排查逻辑​

排查点判断方式结论
检索结果中不包含正确答案查看检索日志、召回 chunks、metadata、score检索链路有问题
检索结果中包含正确答案,但模型回答错查看 Prompt、上下文拼接、模型输出生成链路有问题
检索结果包含部分答案,但不完整查看 chunk 切分、top_k、rerank、过滤条件检索质量不足
检索到了正确文档,但模型没用查看 prompt 是否要求“基于上下文回答”Prompt / 生成约束问题
检索到了错误版本内容查看 metadata、文档版本、更新时间、权限过滤数据版本或过滤问题

检索结果没有答案排查​

  • 查解析、切分、embedding、入库、top_k、rerank、过滤条件

检索结果有答案,但模型没答对​

  • 查 prompt、上下文拼接、模型参数、历史对话、输出约束