RAG相关
- 理解向量数据库
RAG理解
在生成答案之前，先去外部知识库中“检索”相关内容，把检索到的真实片段作为上下文喂给大模型，让模型基于这些真实材料再生成答案
- 先从资料库里检索相关内容
- 再基于这些内容来生成答案
RAG 三步曲
- 1、Retrieval（检索）：根据用户问题，从向量数据库中找到最相关的若干文档片段（chunks）
- 2、Augmentation（增强）：把检索到的片段拼接到用户 prompt 中（通常放在 system prompt 或上下文里）
- Generation（生成）：LLM 基于原始问题 + 检索到的真实材料生成最终答案
公式化表示： RAG = Retrieval（向量搜索） + Augmentation（Prompt 工程） + Generation（LLM）
RAG 在 AI 应用中的典型场景
| 场景 | 为什么需要 RAG | 典型案例 |
|---|---|---|
| 企业内部知识库问答 | 公司文档、规章制度、历史项目资料不断更新 | 企业智能助理、客服机器人 |
| 法律/医疗/金融咨询 | 必须100%忠于现有法规、文献、案例，不能幻觉 | 法律 AI（Harvey）、医疗问答系统 |
| 实时新闻/资讯类应用 | 需要最新信息（训练数据通常滞后6-18个月） | Perplexity AI、Grok 的实时搜索功能 |
| 个人第二大脑 | 把自己的 Notion、微信聊天记录、PDF 全部丢进去问 | Rewind Pendant、Mem、MyMind + RAG |
| 代码助手 | 检索公司内部代码库、API 文档、历史 bug | GitHub Copilot（企业版）、Cursor |
| 多模态问答 | 图表、PPT、视频截帧也需要检索 | 问财报 PPT、问监控视频 |
RAG架构设计原理
RAG难点
核心难点在后端处理
- 向量化
- chunking 策略
- 检索优化
- rerank
- 重排序