智能体的知识注入路径：RAG、微调与混合方案的技术选型

智能体的知识注入路径：RAG、微调与混合方案的技术选型

"怎么让模型知道我们领域的事"是每个智能体团队都绕不开的问题，而它的答案比想象中分散：检索增强（RAG）、微调、长上下文直塞、会话记忆，四条路径各有能力边界与失败模式，选错路径的团队往往烧掉几个月工程时间才发现方向不对——最常见的例子是试图用微调让模型记住频繁变动的产品知识，训练完成后第二天价格表更新，一切归零。到 2026 年，行业对这些路径的适用边界已经形成了相当稳定的共识，这篇文章把这个共识整理成一份工程视角的选型指南。

RAG：新鲜度与溯源优先的主流路径

RAG 的流程广为人知：知识切片、嵌入入库、检索召回、重排精选、拼入提示生成。它的核心优势恰好覆盖了企业知识场景最痛的三个需求。第一是新鲜度：知识库更新文档后分钟级生效，不需要任何训练，价格表、政策、库存这类频繁变动的信息只有这条路走得通。第二是溯源：答案可以附带引用来源，用户能核查、审计能追责，这是医疗、法务、金融场景的合规刚需。第三是权限继承：检索层可以做文档级权限过滤，让不同用户只能召回各自有权看到的内容——模型权重里的知识做不到按用户隔离，这是 RAG 相比微调在权限场景的结构性优势。

RAG 的失败模式同样值得逐条认识。检索失败：用户问法与文档表述词汇不匹配，该召回的没召回（"报销"与"费用核销"是同一个东西，嵌入未必知道）；可以靠查询改写（用 LLM 把口语问法扩写成多个检索变体）与同义词典缓解。切片失败：表格、代码、多栏排版被机械地拦腰切断，语义完整性被破坏；对策是按结构切片（表格整表入索引、代码按函数边界）与更大粒度的块。噪声失败：召回了相关但无用的内容挤占上下文，答案质量随信噪比下降；对策是重排模型精排加检索结果的数量控制。工程经验里，一个生产级 RAG 的调优工作有七成花在检索与切片上，生成侧反而最省心——先把检索命中率做上去，再谈其他。

微调：塑造行为，而非灌输事实

微调被高估的用途是"教知识"，被低估的用途是"教行为"。用事实数据微调模型去记忆知识，有两个结构性缺陷：时效性（知识固化在权重里，更新即重训，成本与周期都不现实）与可溯源性（无法回答"这个结论来自哪份文档"）。因此行业共识越来越清晰：事实知识交给 RAG，微调负责的是那些写进提示词教不会、必须改变模型行为模式的东西——稳定的输出风格与格式规范、领域术语的正确使用、特定工具调用习惯、复杂流程的隐性步骤。一家保险公司微调模型输出符合自家理赔文书规范的结构，一次训练终身受益，这才是微调的正确战场。

成本与风险决定了微调的决策门槛。技术上，LoRA 与 QLoRA 让 7B 到 70B 模型的微调可以在单卡或小集群完成，计算成本已降到千元量级，但真正的成本大头在数据：千条以上高质量的标注样本，准备与清洗的代价往往是训练本身的好几倍。风险上有灾难性遗忘——为特定任务优化后通用能力退化，需要混合通用数据回放来缓解；还有过拟合——模型在评测集上漂亮、在真实分布上刻板。所以微调必须评测驱动：微调前后跑同一套评测集，行为目标达标且通用指标不回退，才算合格。没有评测体系的团队，不建议碰微调。

长上下文与记忆：会话层的知识通路

被选型讨论忽略的两条路径其实各管一层。长上下文直塞适合"一次性、单会话"的知识注入：把几十页合同直接放进窗口做逐条核对，把整个代码库的关键文件摊开做架构分析——特点是知识范围明确、生命周期等于这次任务、不需要跨会话沉淀。它的成本线性于知识量，百万 token 级的知识库经常塞就不如建索引，但十万 token 以内的一次性任务，直塞比 RAG 简单可靠且没有检索失败的风险。会话记忆则负责跨会话的增量知识：用户的偏好、历史决策、项目上下文，通过记忆系统（上一批文章讨论过的分层架构）持久化并按需回填，它注入的是"关于这个用户与这个项目"的知识，粒度是个性化的。

四条路径合起来看，覆盖的是知识光谱的不同段：微调管"不变的行为"，RAG 管"会变的组织事实"，长上下文管"本次任务的工作材料"，记忆管"跨会话的个人与项目上下文"。健康的智能体架构几乎都是四层并存，而不是在两条路里二选一。

flowchart TD
    K["知识注入需求"] --> Q1{"知识会频繁更新吗"}
    Q1 -->|"是"| Q2{"需要溯源与权限隔离吗"}
    Q1 -->|"否，是行为规范"| Q3{"有高质量样本与评测体系吗"}
    Q2 -->|"是"| RAG["RAG 检索增强"]
    Q2 -->|"否，单次任务量小"| LC["长上下文直塞"]
    Q3 -->|"是"| FT["微调 LoRA"]
    Q3 -->|"否"| PE["提示词工程先行<br/>补齐评测再谈微调"]
    RAG & LC & FT & PE --> MIX["混合架构<br/>微调定行为 / RAG 管事实<br/>上下文载材料 / 记忆存个性"]

混合方案与五问选型框架

混合方案不只是四层并存，还包括层间的配合设计。典型的企业知识助手架构：基础模型加领域微调（行为与术语），叠加 RAG（产品知识与文档），叠加记忆（用户偏好与历史工单），再由路由层按问题类型决定知识通路——问政策走检索，问自己的订单走记忆，生成文书走微调后的格式能力。层间冲突要显式处理：检索内容与微调先验矛盾时（新政策与训练时的旧政策），提示里需要显式的优先级声明（"以下检索内容为最新事实，优先于你的既有知识"）。

选型可以收敛为五个问题。一问更新频率：周更日更的知识绝不进微调。二问溯源与权限：需要引用来源或按人隔离的，RAG 是唯一答案。三问数据家底：有千条级高质量行为样本才考虑微调，否则先做好提示词与 RAG。四问延迟与成本预算：RAG 每次会话增加一次检索往返，长上下文直塞抬高每次调用的 token 成本，微调零运行时开销但有训练与维护投入。五问团队能力：没有机器学习工程师的团队把微调从候选清单划掉，把精力投在检索质量上——这是回报率最高的知识工程投入。落地顺序上行业已有共识：提示词工程、RAG、微调，逐级递进，每级的故障先修检索、再动训练。

知识治理：RAG 的运维面

RAG 的另一半真相是它不是一次性工程，而是持续运维。知识库内容会腐烂：过期文档继续被检索命中、同一知识的多版本并存、引用的源文件早已删除。治理的最低配置包括：每份文档指定负责人与复审周期（政策类季度复审、产品类月度复审）、失效内容显式下架而不是仅仅"不参与检索"、版本更替时旧版归档保留可追溯。听起来枯燥，但知识库的检索质量退化有一大半源于内容治理而非技术参数——十份互相矛盾的报销文档，再好的检索模型也救不了。

摄入管道的工程质量决定系统上限。解析环节是第一道关：PDF 与 Word 的解析质量参差，表格与扫描件是事故高发区（表格被拆成碎片文字、扫描件完全没有文本层），解析失败的文档带着垃圾切片进入索引，污染检索。去重与归一是第二道关：同一知识的多个版本并存时，检索会命中互相稀释的副本，需要在摄入时做相似度去重与版本合并。元数据是第三道关：部门、生效时间、密级这些字段在检索时承担过滤与权限职能，缺失元数据的文档在权限场景是定时炸弹。三道关共同决定了一个事实：企业级 RAG 的大部分工程量在数据管道，不在向量检索本身。

检索质量的运营化度量同样需要机制化：用户点踩的问答自动进入检索复盘队列；每周输出检索命中率报告，按知识域分看板；知识库规模膨胀后设置质量回归——新文档入库跑一遍标准问题集，确认没有把既有命中率拉低。没有这些运营动作，RAG 质量会随知识库增长静默劣化，直到用户大面积流失才发现。微调侧的对称治理也别忘了：训练样本要版本化并与评测结果挂钩，行业里反复发生的事故是微调数据混入过时政策文档，导致模型输出过期口径——训练数据的新鲜度管理同样需要明确的负责人。

最后是组织维度的现实问题：知识注入的瓶颈常常在人不在技术——领域专家没时间整理文档，这是所有知识管理项目的历史性死结。2026 年的务实解法是让智能体自己参与知识生产：从会议纪要、工单记录、群聊讨论里半自动抽取候选知识条目，生成结构化草稿，专家只做审核确认。把知识维护的单位成本降一个数量级，比优化任何检索算法的收益都大——这可能是知识工程里投入产出比最高的应用方向。

小结

知识注入不是单选题而是一个四层光谱：RAG 以新鲜度、溯源与权限继承覆盖组织事实，微调以行为塑造覆盖格式规范与领域习惯，长上下文承接单任务的工作材料，会话记忆沉淀跨会话的个人上下文。工程上的失败多半源于路径错配——用微调存易变事实、用提示词硬教模型教不会的行为。选型的五问框架（更新频率、溯源权限、数据家底、成本预算、团队能力）与"提示词、检索、训练"的递进顺序，能把大多数团队从选型弯路里解放出来。知识工程的重心从来不在训练侧，而在把检索质量做扎实的耐心上。