生活分享
检索增强生成(RAG)是什么:让回答附上可查的依据
检索增强生成会先从外部资料中找出相关内容,再交给语言模型组织回答。本文以活动报名规章的问答为例,拆解建立索引、检索、生成与来源核对,说明它和搜索、微调的区别,也解释为什么有引用仍可能答错。读完能判断问题出在资料未更新、文档没找齐,还是模型对证据过度解读,并知道什么情况应保留“不知道”的答案。
阅读时间约 7 分钟

检索增强生成,英文 Retrieval-Augmented Generation,常缩写为 RAG,是把外部资料检索接到文本生成的做法。模型训练时不可能读过你昨天才修改的活动办法,但若系统先找出那份办法,模型便能根据取回的文本回答。外部资料在这里是当次作答的依据,不必先变成模型参数模型参数(Model Parameters)是什么模型参数是训练时调整、用来把输入转成输出的数值,例如权重与偏置。本文用简单算式示例说明参数如何影响预测,区分模型参数、训练超参数、提示词与生成设置,并解释参数量、数值精度和激活参数为何是不同指标。读完能更准确地阅读模型规格,理解参数增加不等于知识逐条增加,也不代表每次聊天都在重新训练模型。阅读全文。这让资料更新与模型训练可以分开处理,也使读者有机会追查回答的来源。
判断一套 RAG 系统是否有用,不能只看回答是否流畅或列了几个引用。真正要问的是:该找到的条文有没有进入模型能看到的上下文,答案中的重要限制能否在原文中找到依据。本篇用虚构的社群课程报名规章示范;办法与预期结果都是教学设定,不是任何真实机构的规定。读者可以用同样的方法检查公司知识库、产品说明书或个人笔记问答。
一种组合方式,不是一个数据库
Lewis 等人的原始论文把预训练预训练(Pretraining):模型的基础能力从哪里来预训练是在针对特定任务调整之前,让模型从大量数据中学到可复用表示与规律的阶段。本文用下一个 token 预测和遮住内容再还原的例子说明数据、目标与参数更新,区分预训练、微调和使用时提供上下文,也解释为什么学过文字不等于记得来源或保证事实正确。读完能理解基础模型的能力来源,以及训练数据质量和评估污染的影响。阅读全文语言模型的参数记忆,与外部文档索引的非参数记忆结合,并研究可训练的检索与生成架构。今天开发文档里的 RAG 用法更广,常指先检索、再把内容放进提示词的应用流程;这些系统不一定重做原论文的联合训练。因此看到名称相同,仍需确认资料从哪里来,以及检索器是否会随训练改变。
搜索工具通常提供文档列表或片段,RAG 则增加根据片段组织答案的步骤。向量数据库只是可能使用的存储与相似度查询组件,全文索引、结构化查询也能承担检索任务。包含精确课程代码的问题,未必适合只靠语义相近来检索。没有生成答案的向量搜索仍是搜索,不能仅凭用了向量就称为完整的 RAG。
资料如何进入答案
准备资料时,系统解析原始文件、切分出可检索的段落,保留文档标识符、章节、版本与权限,再建立索引。提问时,检索器把问题转成查询,取回候选段落,必要时重新排序或补充获取上下文。模型收到问题加上被挑选的依据,最后生成自然语言答案。这些步骤是否由同一服务执行,不影响概念上的分工。
退款条文应连同适用课程与生效日期进入索引。如果只存一句“可以退款”,却丢失下一段的截止条件,检索看似成功也可能答错。引用链接最好定位到实际段落;只有文档首页链接,读者仍得在长篇内容里找证据。版本更新也要让旧段落退出适用范围,不能只是新增新版,让新旧规章同时竞争搜索排名。
阅读完整文字说明
问题送入检索器,文档索引提供适用段落,再交给模型生成带有条件与出处的答案
示范:一个带条件的退款问题
假设输入是“我报了周末陶艺班,开课前取消可以全额退款吗?”资料中有一般退款规则、材料费例外与公告修订。流程先找到陶艺班所属类别,再确认一般规则对开课前取消的处理,接着补充查找材料已采购时是否扣费。输出应把确定事项、例外与缺少的信息分开,例如说明可能退回课程费用,但材料费仍需核查采购状态,并引用相应条文。
好答案不一定立即给出“可以”或“不可以”。若索引只包含一般规则,系统应说明资料不足,而不是把没有搜到例外当成不存在例外。可以先把正确条文直接交给模型:若这样能答对,原本的问题多半在检索;若仍漏掉材料费,则检查指令、上下文排列或答案验证。这种分层检查比一再更换模型更容易找出原因。
再设计一个变体:读者问的是已经停办的旧课程。预期系统识别课程版本,查找当时适用的办法;如果索引只保留现行版,应说明目前资料无法回答历史个案。不能拿最新文档回答所有年份,也不能因为文句高度相似就忽略适用时间。这项测试能揭露仅靠文本相似度很难看出的问题。
有来源仍可能答错
RAG 增加了获取证据的机会,没有把生成器变成必然正确的引用机器。文档可能过期、相互矛盾或本来就错;相似度查询也可能把名字接近的另一门课排在前面。模型还可能引用真实文本,却得出原文不支持的结论。因此要分别衡量相关资料是否找齐,以及答案是否忠于资料,两者不能互相代替。
权限也属于检索质量的一部分。普通学员只能看公开办法时,系统不能先取回内部个案记录,再期待模型自行不透露。比较稳妥的设计是在查询时根据读者身份限制范围,并把取回的文本视为待分析的内容。文档若包含要求忽略规则的句子,不代表那句话有权改写任务。来源可靠、用户有权查看,以及文本相关,是不同的检查。
何时值得使用,如何验收
资料持续更新、答案要附出处、同一模型要服务多个资料集合时,RAG 常是合适的起点。若需求是稳定遵守格式或学会特殊语气,微调可能更贴近问题,两者也能配合使用。若资料只有短短一页,直接提供整页上下文可能足够,未必需要完整的索引服务。工程复杂度应与资料规模、更新需求和资料权限一起考虑。
导入时先准备一组常见且可由原文确认的问题,另外加入跨章节、旧版干扰和资料未涵盖的案例。检查每道题取回哪些段落、答案中哪些句子有依据,以及缺少资料时是否坦诚说明并停止作答。再记录等待时间与文档更新后何时可查到。验收结果应保留问题、文档版本与引用位置,日后更新模型或索引时才能重做同一组比较。
| 方法 | 处理重点 | 需要留意 |
|---|---|---|
| 直接搜索 | 提供文档或片段 | 读者自行汇总答案 |
| RAG | 取回依据后生成回答 | 检索与引用仍需验证 |
| 微调 | 训练行为或能力 | 不等于实时资料更新 |
文档分块(Chunking):切多长,才不会把答案切断
重新排序(Reranking):从找得到到把好答案排在前面重新排序(Reranking):从找到内容到把好答案排在前面重新排序会对第一轮搜索找到的候选再次进行相关性判断,常用于改善搜索列表与 RAG 的上下文质量。本文用图书馆借阅规则演示检索器和交叉编码器如何分工,说明候选缺漏、输入截断、相关性分数与真假判断的差异。读完能辨别该扩大检索、修正文本块,还是增加重新排序,并用合适的测试避免为了改善排名付出不必要的等待。阅读全文
微调(Fine-tuning):让已有模型更适合你的任务微调(Fine-tuning):让现有模型更适合你的任务微调是在现有模型上继续训练,让它更适合特定任务或领域。本文以客服邮件分类说明数据整理、参数更新、保留测试集与版本部署,区分全量微调、LoRA、监督微调和 RAG,也解释训练成绩变好却实际退步的原因。读完能判断问题是否值得微调,以及如何检查格式一致性、未知类型、数据泄漏和原有能力退化。阅读全文
AI 名词总索引:从 Loop Engineering 到生成式 AI
觉得这篇整理实用吗?分享给需要的朋友
同主题延伸阅读
生活分享
代理式检索增强生成(Agentic RAG):何时需要再查一次
代理式检索增强生成让模型参与检索决策,根据问题与已找到的证据选择数据来源、改写查询或继续补查。本文采用 LangGraph 文档中的具体流程,以比较场地借用条件示范它和固定式 RAG 的差别,并说明停止条件、权限、查询记录及成本控制。读完能判断任务需要动态探索,还是用可预测的固定流程就足够。
生活分享
图谱检索增强生成(GraphRAG):从关系看懂整批文档
GraphRAG 把实体及其关系纳入检索,帮助回答跨文档的关联与整体主题。本文以 Microsoft 原始论文及官方文档为范围,拆解实体抽取、社区摘要、局部搜索和全局搜索,以地方活动记录示范不同问题需要不同路径。也说明图谱漏连、名称误合并与摘要失真如何影响答案,避免把一张漂亮的关系图误认为已验证的事实。
生活分享
知识图谱(Knowledge Graph):把事物与关系说清楚
知识图谱用实体及关系组织数据,让“谁参与什么、在哪里、何时发生”能沿链接查询。本文以社群活动数据演示实体识别、关系方向、来源与时间,介绍资源描述框架(RDF)和属性图的表示差异,也说明图谱不等于可视化或可信事实。读完能判断数据适不适合建图,并理解它如何与数据表、向量搜索及图谱检索增强生成(GraphRAG)搭配。
生活分享
混合搜索(Hybrid Search):兼顾精确字词与语义
混合搜索将全文搜索与向量等不同检索结果合并,兼顾精确代码和自然语言需求。本文用设备说明书查询拆解候选获取、去重、排名融合和重新排序,介绍倒数排名融合(RRF)如何用名次融合不同搜索结果,也提醒混合不保证全面更准。读完能用代码题、改写题和无答案题检查质量,并辨认权限、筛选与重复内容造成的偏差。
引用本文的文章
资料来源
- Lewis 等:检索增强生成查证日期:
- LangChain:检索查证日期:
本文依据上方所列参考来源与标示之核实日期整理;票价、时刻、功能规格或服务条款可能变动,出发、预订或购买前请至相关官方网站确认最新信息。