RAG 实战手册
检索增强生成:从切块到评测
RAG 与检索增强实战:向量检索、重排序、检索评测、知识图谱与答案引擎,覆盖从切分策略到 GraphRAG 的完整链路。
RAG 实战手册 20 篇
一篇读懂 Embedding:让「相似」变成一次减法
「北京」和「首都」没有一个字相同,计算机却能算出它们语义相近——秘密是把文字映射成高维空间里的向量,让语义关系变成几何关系。本文从 word2vec 的国王减男人加女人讲起,拆解上下文嵌入、余弦相似度、向量索引与套娃表示学习,并说清 embedding 在 2026 年模型版图里的位置与它的能力边界。
一篇读懂 Reranker:检索快而不准、准而不快的破局者
向量检索毫秒级出结果却常常「差一口气」,交叉编码器足够准却快不起来——Reranker 用两阶段管线把两者拼在一起:先粗召回 50-100 条,再精排挑出 5-10 条。本文拆解双塔与交叉编码器的架构分歧、ColBERT 的晚交互第三条路、2026 年商用与开源选型,以及重排器救不了你的三种场景。
一篇读懂查询改写:检索质量的上限,常常在查询不在检索器
RAG 系统调不动检索质量时,最先该看的不是向量模型,而是查询本身——用户嘴里的「问题」和索引世界的「查询」是两种语言。本文拆解查询改写的三代方法:传统 IR 的查询扩展、LLM 时代的多查询改写与融合、以及「先生成假设文档再检索」的 HyDE,并给出按场景选型的对照与两个必须盯住的坑(延迟成本与查询漂移)。
多模态 RAG:当文档里的关键信息藏在表格与图表里
真实企业文档的多数信息不在正文段落里,而在表格、图表与版式关系里——文本 RAG 的 OCR 管线在这里系统性失真。本文拆解两条补齐路线(解析增强 vs ColPali 式视觉检索)与生成端的图文编排,给出选型权衡。
Embedding 模型选型:维度、语言与检索质量的取舍
看榜单选 embedding 模型经常翻车,因为榜单是通用语料,你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表,五十条真实问题即可完成一次有依据的决策。
从零搭内网知识库问答:开源 RAG 的落地清单
文档不能出内网的团队也想要自己的 ChatPDF。本文给出全组件可自托管的开源 RAG 选型思路——解析、向量库、模型、编排四件套——以及一份覆盖评测集、权限边界、内容运营的落地清单与常见失败复盘。
GraphRAG 与知识图谱:当「多跳问题」难住向量检索时
「A 公司 CEO 的母校是哪所」——两个事实分处两篇文档,单块相似度检索很难一次捞全。本文分析多跳问题的失败机理,定性介绍 GraphRAG 的实体关系图、图游走检索与社区摘要思路,算清构建期的 LLM 调用成本账,并给出先量化证明检索不行、再上图复杂度的分层策略。
RAG 评测入门:检索层与生成层分开打分
「感觉变好了」不算数。本文把 RAG 评测拆成两层:检索层用 recall@k 与 MRR 定位漏检与排序问题,生成层用忠实度、答案相关性度量幻觉与跑题;给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式,以及一张「症状→病因→处方」速查表。
混合检索与重排序:BM25、向量与 Rerank 的三段式
纯向量检索抓不住型号、缩写这类精确术语。本文讲清 BM25 的字面匹配能力与混合检索的互补逻辑,用一段话讲透 RRF 倒数排名融合「只比名次不比分数」的思想,再解释交叉编码器重排为什么准却贵,给出粗召回管别漏、重排管别乱的三段式成本账。
RAG 切块策略实战:chunk 大小、重叠与结构感知
切块是 RAG 检索质量的第一道关卡:太大稀释相似度,太小丢上下文。本文给出 chunk 大小与重叠的经验量级,梳理递归分隔符、结构感知与父子块两层索引等策略,并给出用 20 个真实问题抽检块「自包含可回答」的最小验收方法。
一篇读懂 RAG:为什么「先检索再生成」常比微调更划算
大模型的知识停在训练截止日,私有知识它更是从未见过。本文对比微调与 RAG 两条路线的成本与适用边界,给出二十行以内的最小检索增强流水线,并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。
pgvector 实战:在 PostgreSQL 里做向量检索
RAG 要向量检索,不必急着引入专用库,pgvector 让 PostgreSQL 直接扛起来。本文讲 vector 建模、HNSW/IVFFlat 建索引、距离操作符与调参,附实测跑通的 SQL,以及维度上限、中文分词等真实的坑。
一篇读懂 BM25:向量检索时代为什么还离不开这个 1994 年的公式
BM25 是 Lucene/Elasticsearch 的默认相关性算法,也是 2026 年混合检索的标配一半:IDF 加权、词频饱和、文档长度归一,三个直觉撑起一个 30 年不倒的公式。本文逐项拆解它的数学与两个旋钮 k1、b,并说清它和向量检索各管哪一半。
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
Agent 工程 · 第 4 章|记忆系统:分类学、实现模式、生命周期管理
Agent 工程系统学习第 4 章:记忆系统解决跨会话问题。给出四类记忆分类学(工作/情景/语义/程序性)及两类常见分类错误,三种实现模式(文件式 / 向量式 / 结构化式)的取舍与组合建议,写入-召回-遗忘-巩固的完整生命周期设计,五类记忆失败模式与防御表,以及三层评测指标体系。
PageIndex(VectifyAI/PageIndex):把向量数据库请出 RAG——用 LLM 在文档目录树上「推理导航」
VectifyAI 开源的无向量 RAG 引擎 PageIndex(当日涨星 +1,095、★38,082、MIT):把长文档编译成 JSON 层级树,让 LLM 逐节点推理导航,取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径,以及多文档规模化与数据主权的真实边界。
Hindsight(vectorize-io/hindsight):让智能体「学会」而不只是「记住」的记忆架构
Vectorize 开源的智能体记忆系统 Hindsight(当日涨星 +4,463、★37,121、MIT):以世界事实/经验/观察/心智模型四网络替代扁平 RAG,LongMemEval 从同骨干全上下文的 39.0% 拉到 83.6%、最强 91.4%。拆解 TEMPR/CARA 分层、四路检索+RRF+重排、反思持久化机制,附五个落地场景与竞品争议。
Grounding 选型指南:向量索引、知识图谱、语义层,到底该用哪个
系列第 ③ 篇,对应技能地图第 2 格「Grounding」。拆成两级决策:第一级先问要不要检索——Anthropic 给出的 20 万 token(约 500 页)分界线以上才需要 RAG,以下直接全量进 prompt + 缓存(延迟降 2 倍、成本降最多 90%),并区分预计算索引与 just-in-time 即时检索;第二级再选表示方式,向量索引治模糊召回(但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文)、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表(检索失败率 5.7% → 3.7% → 2.9% → 1.9%)、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套,以及一张可抄的选型决策树。
为什么企业知识库记不住「当时的判断」?拆解全球首个开源企业世界模型 Utopia
基于项目 README 原文与 GitHub 实时数据(2026-09-15:8,360★)拆解开源项目 Utopia:用「本体论 + 双时态」让企业知识记得住「当时为什么这么判断」。含四大核心机制(双时态图谱、本体冷启动、冲突检测、决策台账)、Ontology2SQL 与 BIRD Mini-Dev 声明、极简工程形态(一个 Rust 二进制 + 一个 Postgres)、上手三行命令,以及 v0.1 阶段宣传语里不会写的边界与落地成本。
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
AI 搜索与答案引擎 5 篇
一篇读懂 Reranker:检索快而不准、准而不快的破局者
向量检索毫秒级出结果却常常「差一口气」,交叉编码器足够准却快不起来——Reranker 用两阶段管线把两者拼在一起:先粗召回 50-100 条,再精排挑出 5-10 条。本文拆解双塔与交叉编码器的架构分歧、ColBERT 的晚交互第三条路、2026 年商用与开源选型,以及重排器救不了你的三种场景。
AI 搜索的 2026:点击率腰斩之后,答案引擎与出版商的战争正式开打
Pew 研究中心的数据坐实了出版商最深的恐惧:搜索结果里出现 AI 摘要时,传统链接点击率从 15% 掉到 8%;而 CJR 的研究发现八大 AI 搜索工具的引用错误率合计超过 60%——用户拿到的答案又「有效」又不可靠。与此同时,Cloudflare 的按次付费爬取、三大出版商对 Perplexity 的诉讼、OpenAI 超过 2.5 亿美元的授权合同,正在给内容定价立规矩。本文盘清格局、数据与正在成型的规则。
一篇读懂查询改写:检索质量的上限,常常在查询不在检索器
RAG 系统调不动检索质量时,最先该看的不是向量模型,而是查询本身——用户嘴里的「问题」和索引世界的「查询」是两种语言。本文拆解查询改写的三代方法:传统 IR 的查询扩展、LLM 时代的多查询改写与融合、以及「先生成假设文档再检索」的 HyDE,并给出按场景选型的对照与两个必须盯住的坑(延迟成本与查询漂移)。
从搜索框到 Deep Research:Agentic 检索怎么把一次查询变成一场调查
Google 比 OpenAI 早七周发布 Deep Research,但把「研究计划让用户改批」产品化的也是它——agentic 检索的通用循环是:规划、迭代检索、阅读、反思补漏、交叉验证、带引用报告。本文拆解这个循环的两种实现路线(端到端 RL vs 显式编排),用 BrowseComp 上「裸模型不足 10% vs deep research 51.5%」的差距说明多步浏览行为本身值多少分,也把「慢不等于对」的引用可靠性研究摆上台面。
Google I/O:Gemini 2.5 与全模态搜索重塑
Google 在 I/O 大会全面转向 AI First:Gemini 2.5 Pro/Flash 系列落地百亿级用户产品,AI Mode 重构搜索交互,Veo/Imagen 视频图像生成商用化。
2026-11-19 扩容 50 篇 50 篇
PDF 解析的深水区:版面分析与阅读顺序重建
PDF 是企业语料的最大来源,也是 RAG 解析链路里最大的质量黑洞。本篇拆开最深的两道坎:版面分析如何认出标题、表格与图注,阅读顺序重建如何把双栏页面的坐标流还原成语义流,并给出抽检清单、坏例回流与人工介入边界的工程验收方法。
扫描件与 OCR:纸质档案进 RAG 的完整管线
档案室里的合同、公文与历史卷宗要进 RAG,OCR 是必经的窄门。本篇给出扫描件入库的完整管线:文本层分流、图像预处理、识别与版面还原、低置信页打回与领域词典纠错,并讨论质量标记如何跟随入库、让检索侧对 OCR 错误知情。
语料去重:MinHash 近重复检测与索引瘦身
同一份文件常以五个名字在语料库里出现十次,重复污染检索排序、放大嵌入成本,还让答案偏向被复制最多的内容。本篇讲透重复的三种形态、MinHash 与 LSH 的分桶机制,以及保留哪一份、其余怎么处置的工程决策与持续纪律。
正文抽取的质量工程:boilerplate 剥离与清洗规则
网页与 Wiki 导出裹着厚厚的壳——导航、页脚、版权声明、推荐位。壳进了索引,检索质量就天然带病。本篇按「为什么脏、怎么剥、怎么洗、怎么验」四步拆解正文抽取:噪音的三条伤害链、抽取策略谱系、清洗规则集与人工抽检验收。
连接器生态:Confluence、Notion 与数据库同步器的设计
企业知识不在你的库里,在 SaaS 工具里,连接器是 RAG 语料的第一公里。本篇拆解连接器的公共骨架(鉴权、增量游标、webhook、速率)、Wiki 与协作文档及数据库三类源的差异化设计,以及增量同步的经典陷阱与防御上游说谎的对账机制。
内网知识源接入:爬虫、权限与增量抓取
没有接口的老系统只能靠爬虫把知识送进 RAG,而内网爬虫的第一约束是权限不是覆盖率。本文讲抓取范围与 ACL 快照的绑定、条件请求与重访预算的增量设计、限速退避的礼貌纪律,以及「该收的都收、不该收的一个没有」的双向验收标准。
语料新鲜度监控:陈旧文档的发现、降权与下线
语料库会悄悄变陈——产品改名、流程作废、联系人离职,而过期答案仍被照常检索、引用和相信。本文把新鲜度当作持续运营指标:三类陈旧信号怎么收、评分函数怎么设计、过期候选如何在更新、标注、降权与下线之间分级处置。
来源冲突的入库裁决:优先级、合并与保留历史
两个系统对同一事实给出不同说法,是企业 RAG 的日常。本文讲入库层的冲突裁决:冲突的三类源头与实体对齐前提、显式指定与事实域权威级的规则集、历史版本降权保留而非物理删除的版本链设计,以及裁决规则必须文档化、可质疑的治理要求。
HyDE 假设文档:用「假答案」找真答案
让大模型先编一个可能全是错的「假设答案」,再拿它去做向量检索,用假答案把真文档钓出来——HyDE 是反直觉却有效的零样本检索技巧。本文讲问题与文档的语义鸿沟为何存在、先编后找的完整链路、适用与失效的边界,以及成本工程化手段。
集合检索:「一个都不能少」的高召回查询
合规审查、法条引用、影响面分析要的不是「最像的几条」而是「全部相关的一条不漏」——这是与问答完全不同的检索任务形态。本文讲点检索与集合检索的目标函数差异、多路变体与断层截断等高召回手段、噪声过滤的下游兜底,以及任务判据与验收口径。
MMR 与检索多样性:top-k 不该是十份复印件
向量检索的 top-k 天然爱扎堆:五条高相似结果常是同一件事的五种改写,把上下文窗口挤成复印机房。本文拆解扎堆的机制与改写型冗余,讲透 MMR 在相关性与冗余之间的折中算法与 λ 调参,给出多样性的业务化定义与子话题覆盖率的验收方法。
业务重排:相似度之外的第二把尺子
模型重排只能回答「说的是不是这件事」,回答不了「该先听谁说」——权威性、时效性、部门亲和与处罚名单都是语义模型看不见的信号。本文给出业务信号的类型学与打分叠加方式、规则与模型的边界划分,强调业务重排必须可配置、可审计、可回滚。
Rerank 的成本工程:蒸馏、量化与级联
rerank 是检索管线里单点性价比最高的投入,也是最容易无脑烧钱的地方——账单等于候选数、模型档位与并发的乘法。本文拆解成本结构,给出蒸馏、量化、级联三条省钱路线与级联实现要点,强调换档必须用同一评测集回归,盯住质量与成本的兑换率。
时间感知检索:时效意图识别与新鲜度衰减
「现在的年假几天」与「2019 年版年假制度写什么」是两类时间意图,同一份语料要给出相反的排序策略。本文给出时效意图的类型学与识别手段,讲透按领域分半衰期的衰减排序设计与代码实现,盘点误杀稳定内容、时间字段缺失与时区陷阱等失效模式。
DiskANN 与磁盘索引:内存装不下的大语料
内存单价决定了全内存索引的容量天花板——亿级向量时代,把索引搬上磁盘成了必答题。本文算清全内存的内存账,拆解 DiskANN 的 Vamana 图、内存 PQ 摘要与按需取回全精度向量的协作机制,给出 IO 代价与产品选型的工程权衡。
自适应 ANN 参数:按查询难度调整召回力度
ef 与 nprobe 调一次就锁死是行业惯性,但查询难度天然分布不均,让全体查询为少数困难查询支付延迟代价并不划算。本篇讲难度信号的三类来源、迭代加深与预算内深挖的分级执行策略,以及按难度分桶的评测验收与分级误判的回退设计。
预过滤与后过滤:元数据过滤的性能账
「只查法务部的、只查 2024 年的」——元数据过滤在需求里只有一行,在检索链路里却是性能与正确性的双重岔路口。本文讲预过滤与后过滤的机制与失效形态、选择率主导的性能账、筛空的超额取回补偿与分区替代策略,以及过滤查询的常驻观测指标。
索引分层:热冷数据的检索经济学
少数文档承载大部分查询流量,而索引的内存账单按全量语料等比支付——索引分层用「按温度分配资源」替换「全量顶配」的幻想。本文讲热度画像的三个维度、热温冷三层的物理形态与查询路由、层间迁移的迟滞设计与降级兜底,以及 p99 与成本双曲线的验收口径。
多文档答案冲突:检索结果互相矛盾时的生成策略
检索结果互相矛盾时,模型的默认行为是悄悄站队或和稀泥,把冲突完美掩盖。本文讲冲突漏进上下文的四条通路与内容侧类型学、择权威、条件化、呈现分歧、拒答转人工四条出路,以及生成前后两道检测器与来源标签穿透的实现要点。
答案的不确定性表达:置信度从哪来、怎么呈现
RAG 答案永远一副自信腔,把「检索到了」伪装成「所以是真的」,是用户信任流失的第一原因。本文讲检索、生成、校验三路置信信号的来源与局限,信号融合与阈值校准的方法,以及高、中、低三档呈现的措辞模板与档位频率监控。
答案风格控制:从百科腔到业务腔
同样正确的答案,百科腔发给客户就是事故。本文把答案风格拆成受众、长度、正式度、结构与引用密度五个可配置维度,讲模板、少样本与后处理三层控制手段,以及多场景风格路由与风格回归评测的工程化做法,让风格配置像检索配置一样有版本、有回归。
生成参数与检索的交互:温度、长度与上下文挤占
检索调到 90 分、生成参数随手一配掉回 70 分,是 RAG 团队最常见的冤枉账。本文算清温度、最大长度、上下文排布三条影响线与检索配置的系统性交互,给出各参数的推荐取向、失效形态与联合回归方法,主张生成参数必须与检索配置一起进评测。
小模型生成 + 大模型校验:成本与质量的杠杆组合
让旗舰模型写每一句话是预算刺客。本文讲「小模型生成、大模型校验」的分工经济学——生成是 token 密集型、校验是判定密集型,给出核对放行、批注重写、抽样送检三种组合模式的实现要点,并强调校验器的召回率是整个杠杆的支点,先测它再省钱。
延迟预算解剖:一次 RAG 问答的毫秒账本
把向量库换得更快,端到端延迟却纹丝不动——因为那个环节只占总延迟的一成。本文把一次 RAG 问答拆成改写、检索、重排、组装、首字、流式六段串联,讲分位测量纪律、逐段优化手段与按占比分配精力的预算方法论,主张先画瀑布图再动手优化。
一次查询的成本解剖:token、算力与存储明细
月度账单翻倍而没人说得清钱花在哪,是因为总量数字掩盖了结构。本文把一次 RAG 查询拆成六行明细账,算清输入 token 的统治地位,给出降本杠杆按幅度与风险的排序,主张成本优化要有每次查询的单位经济账。
检索指标的陷阱:recall@k、MRR 与 nDCG 的适用边界
指标选错,优化就是在错误方向上努力。recall@k、MRR 与 nDCG 各自隐含一种任务假设——找齐集合、命中首条、按序浏览。本文拆解三者的机制与「满分但没用」的失效场景,给出问答、合规集合、导航入口三类任务的指标配对,以及人工对账与多指标防博弈的补充纪律。
RAG 评测进 CI:配置变更的回归防线
RAG 的每次改动都可能悄悄弄坏另一类查询。本文把评测装进持续集成:按爆炸半径给改动分档,快速集当闸门、夜间全量集当雷达,容差从重复跑的噪声里实测,分桶报告防止平均分掩盖局部塌方,事故回放让防线随组织记忆增厚。没有回归防线的调优,赢一次输十次。
RAG 变体的 A/B 测试:在线实验的设计与陷阱
离线评测赢了就全量,是把实验当仪式。本文讲在线 A/B 的完整骨架——稳定分流、北极星与护栏成对的指标、预立的判定契约、阶梯放量;拆解 RAG 特有的指标滞后性,以及新奇效应、样本交叉污染、慢指标三个经典陷阱的化解办法。A/B 成本很高,要留给真正分不清胜负的改动。
bad case 归因分类学:检索错、生成错还是需求错
治理 bad case 的第一步不是修,是归因。本文给出一张三枝归因树——检索错(召回失败与排序失败)、生成错(忠实性错误与整合失败)、需求错(歧义问题与超纲问题),配可操作的判定三问与反事实检验,再讲双人标注的归因流程、月度归因占比的统计读法,以及每类问题的修复路径与责任方。
评测驱动的迭代:从指标变化到改动决策
改了感觉变好、复测又说不出哪里好,是 RAG 团队最内耗的状态。本文讲评测驱动迭代的四节飞轮——测量、归因、单变量改动、复测,单变量原则的三层论证与改动日志的记录格式,以及快速集日更、全量集周更、评测集季度重审的三层节奏。评测驱动的本质,是让每次改动都可解释、可回滚。
公开基准的局限:RAG 榜单分数的参考边界
公开基准测的是组件在通用分布上的能力,不是你的系统在你的语料上的效果。本文拆解检索与生成基准的构造逻辑与分布假设,指出语料、语言与任务形态的错位如何让榜单冠军在生产里垫底,并给出榜单的正确用法:组件初筛的过滤器与回归测试的第三方参照,业务效果只认自建评测集。
Embedding 空间体检:可视化、漂移检测与聚类异常
向量检索坏了常常不是检索器的错,是向量空间本身病了。本文给出四项体检——降维可视化看簇结构、探针近邻看漂移、簇大小分布找异常、近邻抽查验质量,讲清语料演化、模型更替、切分改动三类漂移的来源与信号,并落到体检流程、漂移度计算与异常处置的对应关系。
语料版权与合规:企业 RAG 的内容许可边界
RAG 把「能检索到」升级成「能逐字引用」,内容许可从后台法务事项变成了产品事故候选。本文区分权限与许可两件事,给出自有、授权、外部三类语料的风险差异,拆解用途链上许可逐级收窄的规律,并落到许可元数据全程穿透与展示层引用截断的工程配套。
RAG 网关:统一检索入口的抽象层设计
第二个业务接入检索系统的那天,就该建网关。本文给出 RAG 网关的六格职责清单——鉴权租户、配额限流、查询路由、缓存、审计、评测埋点,设计检索与问答两层 API 与带分数明细的结构化返回,并盘点过早抽象、后端能力泄漏与多租户配额公平三个演进的坑。
RAG 的配置管理:实验、版本与回滚的管线化
切块大小、模型名、prompt 模板、top-k——RAG 的「代码」是一堆配置,却常没有版本管理。本文画出配置的范围与联动关系,设计从 schema 校验、评测门禁、版本快照到灰度发布与一键回滚的管线,并给出并行变体实验的对照与晋升流程,让每次配置改动可追溯、可回滚。
索引的备份与全量重建:灾备不是可选项
向量索引损坏、误删、迁移失败时,恢复能力取决于三件事:源数据能否重放、重建要多久、重建期间用什么服务。本文讲灾备三要素与恢复目标口径、重建流水线的分段耗时与并行化、降级形态与切换校验,主张灾备的验收标准是演练过而不是设计过。
索引变更的发布工程:灰度、双索引与回滚
改切块策略、换 embedding 模型、重建分区——索引变更的爆炸半径是全部查询,却常被当成一次定时任务对待。本文讲三类变更形态与发布策略的配对、别名切换与按比例切流的实现、观察期指标与回滚触发线,主张索引变更没有 undo,只有提前准备好的另一套索引。
ACL 同步:权限变更如何传播到索引
查询时按权限过滤只解决一半问题,另一半是权限变更的传播:收回权限的瞬间,索引里的旧 ACL 仍在放行。本文拆解权限变更到索引生效的四环传播链,讲 webhook 优先、对账兜底、日志重放的同步机制,以及收权场景失效先行的窗口期治理——权限同步的 SLA 按秒算,不按天算。
检索服务的 SLO:召回率也是服务目标
可用性 99.9% 的检索服务可能一半答案答非所问——答非所问的可用系统比宕机更伤信任。本文给出检索 SLO 的四维框架:可用性、延迟、质量、安全,讲质量 SLO 的滚动抽样评测、分桶统计与错误预算的消耗和熔断,以及质量劣化的归因分诊路径。
多环境语料一致性:开发、预发与生产的数据管道
在开发环境调好的 RAG 上线就翻车,多半是环境间语料分布不同。本文讲三环境语料策略——生产全量真实、预发脱敏快照、开发最小样本加合成语料,快照版本化刷新、脱敏不可逆与权限同构处理,以及评测集从预发构建、真实查询从生产回流的归属原则。
联邦检索:跨库路由与结果合并
企业知识库从来不止一个:制度、产品文档、工单各有索引与分数体系。本文讲联邦检索的三大机制——库路由、分数归一、合并去重,RRF 与统一重排各自的位置,以及跨库权限、来源标注、延迟预算三类治理问题;联邦一半是技术题,一半是组织题。
检索可解释性:为什么检索到这一条
检索排序解释不了,业务方不敢用、bad case 没法修、加权规则说不清。本文把可解释性拆成命中、分数、排序三层,主张把管线中间量留痕做成数据结构而非事后编故事,并给出工程师调试、业务方申诉、合规审计三类消费场景各自的呈现形态与红线。
Audio RAG:会议录音与播客的语音检索
会议录音没人听第二遍,但每天都有人在问「上次会上谁说了什么」。本文讲语音 RAG 管线:ASR 转写与说话人分离、话题化切块、时间戳对齐索引,以及命中即回听的呈现形态;转写有损靠热词注入与置信度标记兜底,锚点回听让用户自己核对原声。
Video RAG:关键帧、字幕与多模态时间线
视频知识密度最高却最难检索:没有目录页、不能全文搜、找一个操作演示只能拖进度条。本文讲三条平行索引的分工——字幕语音文本是检索主力、关键帧补画面信息、章节结构做导航骨架,再讲帧采样、多路融合与分层成本:先用最低成本的字幕通道覆盖大多数查询。
视觉检索:以图搜图与截图问答
文本检索永远够不着架构图与 UI 截图。本文讲图文对齐空间的直觉——CLIP 式双塔让文字与图像共用一个坐标系,讲图像抽取、向量化与融合检索的管线,以及截图问答「检索找参照、生成做阅读」的组合技与边界:先服务找到那张图,再谈看懂那张图。
IM 语料 RAG:聊天记录与工单对话的知识挖掘
聊天记录与工单藏着组织真实的决策过程,但原始对话碎片化、多主题交织、口语化,直接索引等于把噪音存档。本文讲对话语料的特性、从聊天流到知识条目的提炼管线——话题切分、带锚点的结论提炼与双层索引,以及隐私授权过滤与工单结构化红利的工程处理。
学术文献 RAG:论文库、引用网络与公式
论文库不是普通文档集——引用网络、版本演化与公式让它需要不同的骨架。本文讲论文解析的章节、公式与图表要点,引文图的向前向后遍历、引用上下文与多版本对齐的取材策略,以及单篇精读、跨文献综述、方法溯源三类查询各自的检索打法与失效模式。
长上下文与 RAG 的再平衡:什么时候还需要检索
百万级 token 窗口让「把文档全塞进去」成了检索的替代选项,但名义窗口不等于有效窗口,成本与延迟随输入线性增长。本文讲长上下文的真实能力边界,语料规模、查询类型、实时性与成本预算的四维再平衡框架,以及全塞、检索与热点预载的分级混合形态。
RAG 团队的角色分工:谁对检索质量负责
一条 bad case 常在解析、检索、语料三方之间踢皮球,根源是责任没有归属。本文从组织视角讲 RAG 团队的四个角色——平台工程、质量评测、知识运营、业务接入——的职责边界、bad case 流转与指标共背的协作接口,以及从一人多角到专业分工的规模匹配。
RAG 产品化:从内部工具到对外服务的跃迁
内部好用的 RAG 与能卖钱的 RAG 产品之间隔着租户、SLA、计费、合规四道墙。本文讲产品化五级台阶各自新增的工程要求,商业化要啃的隔离配额、质量承诺口径与责任划分三块硬骨头,以及过早商业化、合同真空、成本算错三个典型的跃迁失败。
其余文章 60 篇
RAG 与企业搜索:从 RAG 到企业级搜索引擎的架构演进
RAG 应用与企业搜索之间隔着连接器生态、删除信号、统一索引与检索服务化四层差距。本文给出四步演进路线与组织配套——内容生态治理比算法更决定上限。
RAG 的冷启动问题:没有历史数据时怎么建好检索系统
冷启动的缺是三种:缺查询、缺标注、缺反馈。本文给出合成 query-chunk 对的质量控制、企业里"前 RAG 时代"查询的挖掘、首日评测集的最小规模与金丝雀查询机制。
RAG 与文档类型路由:不同文档类型走不同解析管线的工程设计
一个解析器打天下必然失败。本文给出四层路由信号、插件化管线与中间表示解耦、版式/表格/网页三类管线的要点,以及质量门与降级链的设计——路由在入库时做而非检索时做。
RAG 的查询理解:用户意图识别与查询扩展的研究与实践
意图识别不是分类题而是检索策略的选择题。本文梳理 PRF/RM3/HyDE 的扩展脉络、主题漂移的风险、QPP 自适应力度控制,以及查询理解模块的输出契约设计。
RAG 与领域术语表:专业术语的检索增强与消歧方案
术语问题分"检索不到"与"检索错"两种形态。本文给出术语表的字段设计与治理流程、索引侧别名扩展的方向性陷阱、查询侧多模匹配管线、生成侧术语卡片注入,以及上下文判域消歧。
RAG 的对话状态管理:多轮对话中的上下文压缩与继承机制
对话状态不是一个聊天记录数组,而是五层生命周期各异的结构化对象。本文讨论状态分层设计、检索状态继承、结构化压缩优于摘要的原因,以及存储恢复与并发防护的工程细节。
知识图谱增强 RAG:实体链接与关系检索的工程实现
不谈从零构建知识图谱,聚焦企业已有 KG 资产的接入工程:词典先行的实体链接、置信度阈值与"不链接"选项、一跳到两跳封顶的子图抽取、三元组语言化与三通道融合。
RAG 的用户反馈循环:thumbs up/down 怎么变成检索改进的信号
点赞点踩不是现成标注数据,直接拿来训练会踩进偏差与归因两个坑。本文给出反馈归因、置信度加权、评测集沉淀与训练负例挖掘的完整闭环设计。
RAG 的文档版本管理:同一文档多版本的索引与检索策略
覆盖更新会丢掉"变化"本身这个可检索的事实。本文给出文档身份与版本分离的数据模型、生效区间与时间旅行查询、版本感知的检索融合策略,以及版本切换的灰度与回滚工程。
RAG 与领域适配:通用模型到领域专家的微调与检索适配路径
通用 RAG 进专业领域会系统性失效,本文给出诊断—适配—回归的完整路径:先定位失效层,再按"先便宜后昂贵"的原则选择文档改写、embedding 微调、RAFT 或领域预训练。
RAG 评估的 LLM-as-Judge:用模型评模型的检索质量
人工标注跟不上迭代速度,用强模型当裁判评检索与生成质量——评分式与对比式两种裁判、位置与长度偏差的矫正、与人工标注的一致性校准,以及忠实度评估的落地实现。
超长文档的 RAG 策略:从整本书到整份报告的分治方案
一本书、一份两百页的报告不是「更长的文档」,而是另一种结构——按问题形状分治:针尖型问题靠结构化切片,全局型问题靠摘要树与 Map-Reduce,长上下文模型是助手不是替代。
多跳推理 RAG:「A 和 B 有什么关系」需要检索两次的问题
桥接型与比较型问题的答案藏在两次检索的接力里——拆解查询分解、推理检索交错、束搜索、图遍历四种多跳范式,以及成本控制与「什么时候不要做」。
RAG 与实时数据流:流式索引与增量检索的工程设计
当知识源的变更频率从「周」变成「秒」,RAG 的索引链路必须重构为流式架构——CDC 采集、微批嵌入、幂等消费、读写一致性,一套完整的工程设计。
混合检索的权重调优:Dense 与 Sparse 的黄金比例不是拍脑袋
Dense 与 Sparse 的分数分布根本不可比,直接加权必然翻车——从 RRF 与归一化加权两种融合方式的原理,到小标注集网格搜索与分查询自适应的完整调优方法论。
RAG 输出的结构化转换:让检索结果变成表格和 JSON 的工程实践
检索做好了,输出还在裸奔——从提示词约束到 Schema 约束解码再到校验修复循环,让 RAG 的答案以表格和 JSON 落地,并保持引用对齐。
语义分块:超越固定长度的智能切块策略——从句子边界到语义边界的进化
固定长度切块的原罪是切断语义,本文拆解语义断点检测、命题级分块、Late Chunking 三条进化路线,以及如何用检索指标科学评测分块质量。
RAG 中的表格理解:从表格提取到表格问答的完整方案
表格是 RAG 里最容易翻车的内容类型,从表格检测、结构还原、序列化策略到行级切片与聚合问答,给出一条完整的工程链路。
Agentic RAG:Agent 自主决定检索策略的新范式——从固定管线到自适应管线
把检索从固定管线里的一个步骤升级为 Agent 手中的工具,拆解 ReAct、CRAG、规划式三种模式,以及预算控制与护栏的工程实现。
GraphRAG:知识图谱增强检索的原理与实践——从实体抽取到图查询的完整链路
从实体抽取、图构建、社区检测到局部与全局双路查询,拆解 GraphRAG 的完整工程链路,以及什么场景值得为它付这笔索引成本。
RAG 的未来趋势:从检索到智能知识工作
RAG 从「检索增强生成」正在演化为「智能知识工作」:从被动检索到主动知识管理、从文档问答到知识推理、从单一管线到多模态多源。本篇展望 RAG 的五个趋势方向,以及它们对「知识工作」的长期影响。
RAG 与微调的混合架构:两者如何协同工作
「RAG 还是微调」不是二选一——成熟的 AI 系统往往两者并用。RAG 管知识、微调管行为、提示词管指令。本篇拆解三种混合架构(微调+RAG、微调优化 RAG 组件、RAG 增强微调模型),以及每种的适用场景与工程要点。
RAG 与搜索引擎的融合:AI 搜索的信息检索架构
AI 搜索(Perplexity、SearchGPT 类产品)正在改变「搜索」的定义:从「给链接」到「给答案」。这些产品的架构是 RAG 与搜索引擎的融合——传统搜索的索引能力 + LLM 的理解与综合能力。本篇拆解 AI 搜索的架构、与 RAG 的异同、以及对传统搜索生态的冲击。
知识库生命周期管理:从创建到废弃的完整治理
知识库不是「建好就完事」——它有生命周期:创建、成长、维护、衰退、废弃。每个阶段有不同的管理重点与风险。本篇拆解知识库生命周期的五个阶段、每阶段的管理动作、以及「知识库的废弃」这个被忽视的课题。
RAG 的隐私工程:个人信息保护与数据脱敏检索
RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面(入库脱敏、检索权限、输出过滤)以及 GDPR 等法规的合规要求。
Legal RAG 与医疗 RAG:专业领域 RAG 的合规与精度
法律与医疗是 RAG 落地最 demanding 的两个领域:专业术语的精度要求、法规的合规约束、以及「错误答案的代价远超正确答案的价值」。本篇拆解两个领域的 RAG 实践要点——法律 RAG 的法条检索与案例引用、医疗 RAG 的文献检索与临床决策支持——以及专业领域 RAG 的通用方法论。
开源向量数据库深度对比:Qdrant、Weaviate、Milvus 与 Chroma
向量数据库是 RAG 的地基,开源方案有四巨头:Qdrant 的 Rust 性能、Weaviate 的模块化、Milvus 的云原生规模化、Chroma 的极简开发体验。本篇从架构、性能、生态与运维四个维度深度对比,帮你选对地基。
RAG 的 UX 设计:检索结果如何呈现给用户
RAG 的技术再好,用户看不到检索过程、不理解引用关系、无法判断答案的可信度——体验就失败了。本篇拆解 RAG 的 UX 设计:引用的呈现方式、过程的透明度、以及「让用户信任并有效使用 RAG」的交互设计原则。
Embedding 微调实战:领域适配与对比学习训练
通用 Embedding 模型在专业领域检索不准——领域术语的语义、内部文档的表述习惯,通用模型学不到。Embedding 微调用领域数据做对比学习训练,让向量「学会」领域的语义。本篇拆解微调的数据构造、训练流程与效果验证。
知识库质量管理:垃圾进垃圾出的预防工程
RAG 的回答质量取决于知识库的质量——「垃圾进,垃圾出」。但知识库的质量管理不是一次性动作,是持续的运营:入库审核、质量打分、过期检测与清洗。本篇拆解知识库质量管理的完整体系。
RAG 的个性化检索:每个用户看到不同的结果排序
同一个问题,工程师和产品经理需要不同的答案——个性化检索让 RAG 的结果按用户的角色、偏好与历史行为调整排序。本篇拆解个性化检索的三层实现(用户画像、行为信号、结果重排)与隐私边界。
RAG 的生产监控与调试:追踪检索质量的生产链路
RAG 上线后的调试比开发期更难:真实流量的多样性、检索质量的隐性退化、生成质量的持续漂移——生产监控是 RAG 运营的眼睛。本篇拆解 RAG 监控的四个层面(检索层、生成层、用户层、系统层)、调试的方法论,以及 bad case 的管理流程。
RAG 的可靠性工程:从超时到降级的容错设计
RAG 系统的每个环节都可能失败:检索超时、向量库不可达、嵌入服务限流、LLM 超长——可靠性工程让 RAG 在部分失败时仍有合理的输出。本篇拆解 RAG 各环节的故障模式、降级策略与容错设计,以及「部分失败不等于系统失败」的架构原则。
RAG 提示词工程:system prompt、上下文模板与指令设计
RAG 的回答质量,一半取决于检索,一半取决于提示词。检索到的上下文再好,提示词写得不对,模型照样答非所问。本篇拆解 RAG 提示词的三层结构(system prompt、上下文模板、生成指令),以及「让模型只基于检索内容回答」的约束设计。
RAG 的上下文压缩:在生成之前把检索结果变短
检索回 10 篇文档塞进上下文——但其中 80% 的内容与问题无关。上下文压缩在「检索之后、生成之前」加一道减法:把检索结果的冗余删掉、把关键信息提出来。本篇拆解压缩的四种策略(抽取式压缩、摘要式压缩、选择性上下文、结构化压缩)与效果取舍。
多语言 RAG:跨语言检索与翻译管线的工程
用户用中文提问,文档是英文写的——跨语言 RAG 的检索质量远低于同语言场景。本篇拆解多语言 RAG 的三种管线(翻译前置、多语言嵌入、跨语言检索)、各方案的效果与成本、以及多语言知识库的构建策略。
流式 RAG:边检索边生成的实时体验工程
传统 RAG 的体验是「等待—出结果」:检索完才生成、生成完才展示。流式 RAG 改变了这个节奏:检索与生成并行、结果逐步出现。本篇拆解流式 RAG 的架构模式(渐进式检索、流式生成与流式 UI)、延迟优化策略,以及「让用户在等待中看到进展」的体验设计。
RAG 框架对比:LangChain、LlamaIndex、Haystack 与自研的取舍
搭建 RAG 有四条路:LangChain 的生态最广、LlamaIndex 的 RAG 最专、Haystack 的生产最稳、自研的控制最强。本篇拆解四个框架的定位、核心抽象与适用场景,以及「框架会过时但模式不会」的选型心法。
多租户 RAG 架构:隔离、路由与租户级知识库
一个 RAG 系统服务多个客户,每个客户的知识库必须隔离——多租户 RAG 是 SaaS 化 RAG 的必经之路。本篇拆解三种隔离策略(物理隔离、逻辑隔离、混合)、租户级路由的实现、以及数据安全与配额管理的工程要点。
一篇读懂结构化数据 RAG:表格、数据库与 Text-to-SQL
企业最有价值的知识往往不在文档里,在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句,但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线:Schema 理解、SQL 生成、执行验证与错误恢复,以及它与向量 RAG 的本质差异。
一篇读懂结构化数据 RAG:表格、数据库与 Text-to-SQL
企业最有价值的知识往往不在文档里,在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句,但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线:Schema 理解、SQL 生成、执行验证与错误恢复,以及它与向量 RAG 的本质差异。
评测集构建:先有一把尺子,再谈调优
「换了 reranker 感觉好了一些」「调大 chunk 之后好像更准了」——没有评测集,一切调优都是感觉。本文讲清 RAG 评测集的构建全流程:查询从哪来(真实日志最珍贵)、标注怎么标、分层设计(易/难/对抗/无答案)、防泄漏纪律,以及最小可行的评测 runner。
Code RAG:给代码做检索,和给文档做检索哪里不一样
把文档 RAG 的套路照搬到代码上会水土不服:代码有语法结构、有跨文件依赖、有海量重复模式。Code RAG 需要语法感知切块、符号级索引和「传统工具打底」的混合策略。本文讲清代码检索的三个特殊性、对应做法,以及 grep 与向量检索谁该打底的争论。
RAG 的安全账:间接提示注入与语料投毒
RAG 把外部内容拼进 prompt,等于亲手打开了指令与数据的边界:恶意文档可以借「检索」进入上下文操纵模型(间接提示注入),污染语料可以直接扭曲答案(语料投毒)。本文讲清两类攻击的机制与真实形态、防护的纵深组合,以及「检索内容永远当数据」这条核心纪律。
权限感知检索:别让 RAG 绕过你的权限系统
应用层的权限校验管不住 RAG——检索是直接对索引执行的,「谁能看到哪些文档」必须做进检索层。本文讲清多租户 RAG 的权限方案谱系:post-filter 的配额陷阱、引擎级 pre-filter、按租户分区,ACL 同步的时效问题,以及「默认拒绝」的架构原则。
拒答与校验:无答案比错答案好
RAG 系统最伤信任的时刻,不是「答不出来」,而是「一本正经地答错」。拒答机制的目标是让系统在该沉默时沉默:检索层无料就明说,生成层答案没依据就降级,输出前再加一道 groundedness 校验。本文讲清三道防线的实现、阈值设计与「拒答不冷漠」的体验设计。
引用与溯源:让每个答案都有出处
RAG 区别于裸聊天的核心承诺是「答案有据可查」——但很多系统的引用是装饰品:编号对不上、引用了上下文里没有的来源、或干脆一句「根据资料」。本文讲清引用体系的完整链路:chunk 稳定标识、生成时的引用协议、后校验防编造、句子级 attribution 与前端呈现。
上下文组装:检索之后、生成之前的最后一段工程
检索回来的片段直接塞给模型,是 RAG 里被省略最多、也最该做的一段工程:去重、排序、压缩、位置摆放、预算分配,每一步都直接影响答案质量。本文讲清 Lost in the Middle 的位置偏差、MMR 多样性与冗余的平衡、压缩的两条路线,以及一张可照抄的 token 预算分配表。
语义缓存:命中一次,省下整条链路
RAG 一次问答要过检索、重排、生成三道工序,成本与延迟都厚。语义缓存在最前面加一道判断:这个问题以前问过吗——不是字符串相等,而是语义相似。《本文讲清缓存键的三层设计、相似阈值的调法、失效机制的坑,以及权限差异这个最容易被忽略的雷。
增量更新与模型迁移:RAG 索引的一致性工程
文档改了一段、换个 embedding 模型、升一次切块参数——RAG 索引的一致性问题藏在所有「小改动」里:漏更新、新旧混杂、部分重建。本文把变更分三类讲清各自的正确姿势:文档增删改要级联,模型迁移要全量重建加双索引灰度,参数变更等于重建,并给出成本估算方法。
元数据过滤:让时间、部门与版本进得了检索
「最新版的报销制度是什么」——语义检索能命中所有版本的报销制度,但只有元数据知道哪份是最新的。过滤条件(时间、部门、版本、类型)与语义检索是互补的两轴,合不好会出现「过滤后召回骤降」的经典翻车。本文讲清 pre/post-filter 的取舍、过滤条件的抽取与兜底。
RAPTOR 与层级索引:摘要树怎么答「全书级」问题
「这本书的核心论点是什么」「三个季度业绩的整体趋势如何」——这类需要通读全库的问题,切块检索天然答不好:证据散在几十个块里,谁也匹配不上查询。RAPTOR 对分块递归聚类、逐层生成摘要,建出一棵可检索的摘要树。本文讲它与 GraphRAG 的分工、构建成本与适用边界。
Self-RAG:让模型自己决定什么时候检索
固定流水线「每问必检索」对闲聊是浪费、对复杂问题又不够。Self-RAG 的思路是让模型在生成过程中自主决策:要不要检索、检索到的片段可不可信、答案有没有被证据支撑。本文讲清 Self-RAG 与 CRAG 两种自适应检索范式、轻量工程实现与成本账。
多轮对话 RAG:把「那它呢」翻译成能检索的问题
用户第二轮问「那它支持导出吗」——这三个字没法直接检索。多轮对话 RAG 的核心动作是 condense:用对话历史把带指代、带省略的追问改写成独立完整的问题再去检索。本文讲清指代消解与历史压缩的做法、改写偏移的坑、以及「检索结果也要进历史」这个常被忽略的细节。
查询路由:不是每个问题都值得检索一次
用户问「你好」「帮我写首诗」,也被送去向量库里转一圈——检索噪声污染回答,还白烧延迟和成本。查询路由是检索之前的分流器:判断这个问题需不需要检索、走哪个索引、要不要追问澄清。本文讲清路由的决策维度、实现谱系(规则→分类器→LLM)、失败代价与降级设计。
SPLADE 与学习型稀疏检索:让倒排索引学会语义
BM25 不懂同义改写,向量检索不懂精确词匹配。SPLADE 用语言模型给每个词算出词表上的权重分布——文档自己「长出」了相关扩展词,查询与文档在同一个扩展词表上匹配。它输出的是稀疏向量,能直接进倒排索引。本文讲清它和 BM25、dense 检索的三足关系与工程账。
ColBERT 与 late interaction:token 级匹配为什么准
单向量检索把整段文本压成一个点,cross-encoder 准但每对都要过一次模型。ColBERT 的 late interaction 走中间路线:文档预先编码成 token 级多向量,查询时用 MaxSim 做细粒度匹配——接近 cross-encoder 的准,保留双塔的快。本文讲清它准在哪、贵在哪、该放在检索流水线的哪一层。
嵌套向量 Matryoshka:一个向量,随取随用的多粒度检索
传统嵌入向量要么全存要么全废,维度定死;嵌套表示(MRL)训练出的向量有个特殊性质——只取前 128 维依然可用,取前 256 维更好。本文讲清它的直觉原理、两种用法(截断降维与级联检索)、以及「普通模型向量不能随便截」这条红线。
向量压缩:PQ、量化与二值嵌入,把内存账砍下来
一千万条 768 维 float32 向量要吃 30GB 内存——规模一上来,向量存储就成了 RAG 最贵的一块。本文讲清三条压缩路线:标量量化降精度、PQ 降基数、二值化极限压缩,各自的原理、召回代价与「粗排压缩向量 + 精排原始向量」的标准补偿手法。
HNSW 调参实战:M、ef 与召回率的三角关系
向量库的召回率忽然下降、延迟忽然变高,八成不是玄学而是 HNSW 参数没调对。本文拆解 HNSW 三个核心参数 M、efConstruction、efSearch 各管什么、动谁的成本,给出「先建图、再扫 efSearch」的调参顺序,以及 top-k 大于 efSearch 这类高频踩坑。