检索增强生成（RAG）
Retrieval-Augmented Generation
先从知识库检索相关资料、再让大模型据此生成答案的技术路线，使回答可溯源、知识可更新，是企业落地大模型的主流方式。
定义
检索增强生成（RAG）是一种将信息检索与文本生成结合的技术路线：接到问题后，系统先从知识库中检索出相关的文档片段，再把这些材料连同问题一起交给大模型，由模型依据材料组织答案。它解决的是通用大模型的两个固有问题——模型不掌握企业内部的私有知识，以及模型的知识随训练截止而固定、无法反映最新变化。通过把知识放在可随时更新的外部库中，RAG 让知识更新不再需要重新训练模型，同时因为答案有明确的材料来源，可以标注出处供使用者核验，这在对准确性要求高的工业场景中尤为关键。
基本工作流程
典型流程分为离线与在线两部分。离线阶段把文档切分为适当大小的片段，为每个片段计算向量表示并存入索引，这一步的切分策略直接影响后续检索效果——切得过碎会丢失上下文，过大则引入无关内容稀释关键信息。在线阶段接到问题后，先对问题做理解与改写，再从索引中检索出最相关的若干片段，经过重排序筛选出真正有用的材料，最后连同问题一起送入模型生成答案，并附带引用来源。整个链条中任何一环出问题都会影响最终质量，而实践中最常见的瓶颈不在生成环节，而在检索环节——模型只能基于拿到的材料作答，材料错了或不全，答案必然不可靠。
检索质量决定上限
有一条经验在项目中反复被验证：检索不到的内容，模型不可能凭空答对。因此优化工作的重心通常在提升检索命中率。常见手段包括：混合检索，把基于语义的向量检索与基于关键词的精确匹配结合，前者擅长理解同义表达，后者擅长命中型号、编号等精确字符串，工业场景中两类需求同时存在；查询改写，把口语化、信息不全的提问转换为更适合检索的表述，或拆解为多个子查询；重排序，先粗检出较多候选再用更精细的模型排序；以及元数据过滤，按设备类型、文档版本、适用范围等属性缩小检索范围，避免用错版本的资料回答问题。
工业场景的特殊挑战
工业知识库有几个不同于通用文档的特征。资料形式复杂，大量关键信息以表格、图纸、爆炸图与扫描件形式存在，纯文本切分方式难以处理，表格被切断后数值与表头分离会产生严重误导。版本问题突出，同一设备不同年份、不同配置的手册并存，若不做版本区分，可能用旧版参数回答新设备的问题。术语高度不统一，同一部件在手册、工单与口语中可能有三种叫法，直接影响检索命中。此外，维修经验往往以非结构化的工单描述存在，质量参差且大量记录只有寥寥数字。这些问题决定了工业 RAG 的主要工作量在知识治理，而非算法调优。
与微调的关系
两者解决不同问题，通常互补而非替代。RAG 擅长注入事实性知识，优势是更新便捷、答案可溯源、且不改变模型本身；微调擅长塑造行为模式，例如让模型按固定结构输出排查步骤、使用企业内部的术语习惯、或适应特定的任务范式。若需求是「让模型知道我们的设备参数」，应优先考虑 RAG；若需求是「让模型每次都按这个格式回答并使用我们的说法」，微调更直接。实践中常见的组合是以 RAG 承担知识供给，以少量微调或提示工程规范输出形态。需要避免的误区是试图通过微调把大量事实塞进模型——成本高、更新难，且事实错误难以定位与纠正。
评估与持续优化
没有评估集就无法判断改动是改善还是劣化，这是许多项目停滞的根源。可行的做法是收集一批真实问题并标注参考答案与应命中的文档，形成回归测试集，每次调整切分策略、检索参数或提示词后重新跑一遍，观察指标变化。评估应分层：先看检索层的命中率与排序质量，再看生成层的答案准确性与是否忠实于材料，因为两层的问题需要不同的修复手段。上线后还应持续收集使用者反馈，特别是被标记为错误的回答，分析其属于检索未命中、材料本身有误、还是模型未忠实于材料，据此针对性改进。把这一闭环建立起来，系统才能随使用而变好，而不是上线即定型。
常见问题
RAG 和微调该选哪个？
解决的问题不同，通常互补。需要让模型掌握企业设备参数、手册内容等事实性知识时优先用 RAG，因为更新只需改文档、答案可溯源、不必重新训练。需要规范输出格式、统一术语习惯、适应特定任务范式时用微调更直接。应避免试图通过微调塞入大量事实——成本高、更新难，且错误难以定位纠正。
为什么 RAG 系统有时答得牛头不对马嘴？
多数问题出在检索而非生成。模型只能基于检索到的材料作答，材料错了或不全，答案必然不可靠。工业场景常见原因包括：表格被切断导致数值与表头分离、同一设备多版本手册未做版本过滤、同一部件在手册与工单中叫法不同导致检索未命中。优化重心通常在混合检索、查询改写、重排序与元数据过滤，而非调整生成环节。
相关术语
本术语库收录行业通用概念，用于技术交流与知识普及，不含任何特定厂商的非公开资料。具体设备的技术参数与操作规范，请以整车厂官方文档为准。