跳到主要内容

检索日志

  • RAG 链路里主动记录出来的日志
  • 通过检索日志，来排查检索结果，是否包含答案
  • RAG 检索日志就是把“用户问了什么、系统搜到了什么、模型最后答了什么”完整记录下来，来方便定位问题

日志实现​

  • 数据库表
  • 服务器日志文件
  • 日志平台

数据库日志表实现​

比如有专门的后端是java或者node，而python是专门处理agent相关

  • 日志主要由 Python RAG 服务写入，因为检索、rerank、prompt、LLM 调用都在 Python 里完成
  • Node后端来调用Python的Rag服务
    • 由Node端来传递相关的用户信息，如用户id、用户提问的内容等等
    • python服务拿到node端传过来请求之后，会创建一条rag的检索日志记录

检索日志记录​

可以分三层记录：

bash
请求层：这次用户问了什么
检索层：系统搜到了什么
生成层：模型最终怎么回答

数据库检索日志​

  • RAG 检索日志表放在业务数据库
  • 不要放在向量数据库中，向量数据库主要是负责存储chunk文本、embedding 向量、metadata元数据