检索回 10 篇文档塞进上下文——但其中 80% 的内容与问题无关。上下文压缩在「检索之后、生成之前」加一道减法：把检索结果的冗余删掉、把关键信息提出来。本篇拆解压缩的四种策略（抽取式压缩、摘要式压缩、选择性上下文、结构化压缩）与效果取舍。

一次 RAG 请求到底花多少钱？查询向量化几乎免费，检索只要几厘，生成环节却吃掉九成账单。本文把成本拆成一次性入库与每次请求两栏，给出各环节的量级估算方法与七个省钱杠杆，以及一条先砍生成、再调检索的平衡框架，帮你把预算花在真正影响账单的地方。

传统 RAG 的体验是「等待—出结果」：检索完才生成、生成完才展示。流式 RAG 改变了这个节奏：检索与生成并行、结果逐步出现。本篇拆解流式 RAG 的架构模式（渐进式检索、流式生成与流式 UI）、延迟优化策略，以及「让用户在等待中看到进展」的体验设计。

Google 比 OpenAI 早七周发布 Deep Research，但把「研究计划让用户改批」产品化的也是它——agentic 检索的通用循环是：规划、迭代检索、阅读、反思补漏、交叉验证、带引用报告。本文拆解这个循环的两种实现路线（端到端 RL vs 显式编排），用 BrowseComp 上「裸模型不足 10% vs deep research 51.5%」的差距说明多步浏览行为本身值多少分，也把「慢不等于对」的引用可靠性研究摆上台面。

同一个问题，工程师和产品经理需要不同的答案——个性化检索让 RAG 的结果按用户的角色、偏好与历史行为调整排序。本篇拆解个性化检索的三层实现（用户画像、行为信号、结果重排）与隐私边界。

「这条 SQL 为什么慢」是后端工程师的高频问题，答案往往藏在索引里：B+ 树的结构决定了索引的行为、覆盖索引可以避免回表、最左前缀原则决定了联合索引的可用性。本文讲清 MySQL 索引的原理与优化实践。

Agentic RAG 把检索从「固定管线」升级为「智能体的决策」：要不要检索、检索什么、从哪检索、结果够不够好——每一步都由 Agent 判断。本篇拆解它的核心模式（检索路由、查询规划、自我修正循环）、与传统 RAG 的分工边界、以及 Agentic RAG 的成本与延迟代价。

「这个应用每月的模型账单会是多少」——回答这个问题需要真正理解 token 计费的口径：输入输出分价、上下文累积、缓存折扣、以及隐藏的成本大头。本篇拆解计费的完整口径、一笔真实对话的成本拆解、以及按效排序的成本优化清单——把「token 焦虑」变成「token 预算学」。

用户第二轮问「那它支持导出吗」——这三个字没法直接检索。多轮对话 RAG 的核心动作是 condense：用对话历史把带指代、带省略的追问改写成独立完整的问题再去检索。本文讲清指代消解与历史压缩的做法、改写偏移的坑、以及「检索结果也要进历史」这个常被忽略的细节。

向量检索的粒度是个两难：块太小匹配得准但上下文残缺，块太大上下文完整但语义被稀释。父子检索（small-to-big）用「小块检索、大块生成」把两个诉求拆开——索引里存的是子块，命中后回父块。本文讲清它的原理、三种常见形态、最小实现与工程取舍。

用户问「你好」「帮我写首诗」，也被送去向量库里转一圈——检索噪声污染回答，还白烧延迟和成本。查询路由是检索之前的分流器：判断这个问题需不需要检索、走哪个索引、要不要追问澄清。本文讲清路由的决策维度、实现谱系（规则→分类器→LLM）、失败代价与降级设计。

传统嵌入向量要么全存要么全废，维度定死；嵌套表示（MRL）训练出的向量有个特殊性质——只取前 128 维依然可用，取前 256 维更好。本文讲清它的直觉原理、两种用法（截断降维与级联检索）、以及「普通模型向量不能随便截」这条红线。

RAG 系统调不动检索质量时，最先该看的不是向量模型，而是查询本身——用户嘴里的「问题」和索引世界的「查询」是两种语言。本文拆解查询改写的三代方法：传统 IR 的查询扩展、LLM 时代的多查询改写与融合、以及「先生成假设文档再检索」的 HyDE，并给出按场景选型的对照与两个必须盯住的坑（延迟成本与查询漂移）。

向量检索毫秒级出结果却常常「差一口气」，交叉编码器足够准却快不起来——Reranker 用两阶段管线把两者拼在一起：先粗召回 50-100 条，再精排挑出 5-10 条。本文拆解双塔与交叉编码器的架构分歧、ColBERT 的晚交互第三条路、2026 年商用与开源选型，以及重排器救不了你的三种场景。

大模型的知识停在训练截止日，私有知识它更是从未见过。本文对比微调与 RAG 两条路线的成本与适用边界，给出二十行以内的最小检索增强流水线，并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。

用户用中文提问，文档是英文写的——跨语言 RAG 的检索质量远低于同语言场景。本篇拆解多语言 RAG 的三种管线（翻译前置、多语言嵌入、跨语言检索）、各方案的效果与成本、以及多语言知识库的构建策略。

RAG 上线后的调试比开发期更难：真实流量的多样性、检索质量的隐性退化、生成质量的持续漂移——生产监控是 RAG 运营的眼睛。本篇拆解 RAG 监控的四个层面（检索层、生成层、用户层、系统层）、调试的方法论，以及 bad case 的管理流程。

BM25 不懂同义改写，向量检索不懂精确词匹配。SPLADE 用语言模型给每个词算出词表上的权重分布——文档自己「长出」了相关扩展词，查询与文档在同一个扩展词表上匹配。它输出的是稀疏向量，能直接进倒排索引。本文讲清它和 BM25、dense 检索的三足关系与工程账。

把文档 RAG 的套路照搬到代码上会水土不服：代码有语法结构、有跨文件依赖、有海量重复模式。Code RAG 需要语法感知切块、符号级索引和「传统工具打底」的混合策略。本文讲清代码检索的三个特殊性、对应做法，以及 grep 与向量检索谁该打底的争论。

固定流水线「每问必检索」对闲聊是浪费、对复杂问题又不够。Self-RAG 的思路是让模型在生成过程中自主决策：要不要检索、检索到的片段可不可信、答案有没有被证据支撑。本文讲清 Self-RAG 与 CRAG 两种自适应检索范式、轻量工程实现与成本账。

窗口从 8K 涨到千万级，「RAG 已死」论再起。但评测数据显示有效上下文远小于宣称窗口，长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工：小库精读交给长窗口，大库「找得到、读得起」仍靠检索。

BM25 是 Lucene/Elasticsearch 的默认相关性算法，也是 2026 年混合检索的标配一半：IDF 加权、词频饱和、文档长度归一，三个直觉撑起一个 30 年不倒的公式。本文逐项拆解它的数学与两个旋钮 k1、b，并说清它和向量检索各管哪一半。

应用层的权限校验管不住 RAG——检索是直接对索引执行的，「谁能看到哪些文档」必须做进检索层。本文讲清多租户 RAG 的权限方案谱系：post-filter 的配额陷阱、引擎级 pre-filter、按租户分区，ACL 同步的时效问题，以及「默认拒绝」的架构原则。

「最新版的报销制度是什么」——语义检索能命中所有版本的报销制度，但只有元数据知道哪份是最新的。过滤条件（时间、部门、版本、类型）与语义检索是互补的两轴，合不好会出现「过滤后召回骤降」的经典翻车。本文讲清 pre/post-filter 的取舍、过滤条件的抽取与兜底。

RAG 要向量检索，不必急着引入专用库，pgvector 让 PostgreSQL 直接扛起来。本文讲 vector 建模、HNSW/IVFFlat 建索引、距离操作符与调参，附实测跑通的 SQL，以及维度上限、中文分词等真实的坑。

纯向量检索抓不住型号、缩写这类精确术语。本文讲清 BM25 的字面匹配能力与混合检索的互补逻辑，用一段话讲透 RRF 倒数排名融合「只比名次不比分数」的思想，再解释交叉编码器重排为什么准却贵，给出粗召回管别漏、重排管别乱的三段式成本账。

「感觉变好了」不算数。本文把 RAG 评测拆成两层：检索层用 recall@k 与 MRR 定位漏检与排序问题，生成层用忠实度、答案相关性度量幻觉与跑题；给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式，以及一张「症状→病因→处方」速查表。

大模型价格战的背后（本库《价格战》），站着一条被低估的产业链：推理优化产业——量化、编译器、KV 缓存优化、投机解码、专用推理引擎。它不训练模型，却决定了模型的交付成本，是「价格战能打多低」的真正决定者。本文画一张推理优化产业的地图，讲清每一格的手艺与玩家。

十年来 AdamW 是大模型训练不容置疑的默认优化器，直到 Kimi K2 用它跑起万亿参数训练。本文从梯度下降的几何直觉讲起，拆解 AdamW 为什么统治了十年、Muon 的正交化更新为什么只需约 52% 的训练算力就能追平 AdamW，以及这轮换血里真正的工程细节与边界。

AI 搜索（Perplexity、SearchGPT 类产品）正在改变「搜索」的定义：从「给链接」到「给答案」。这些产品的架构是 RAG 与搜索引擎的融合——传统搜索的索引能力 + LLM 的理解与综合能力。本篇拆解 AI 搜索的架构、与 RAG 的异同、以及对传统搜索生态的冲击。

RAG 的技术再好，用户看不到检索过程、不理解引用关系、无法判断答案的可信度——体验就失败了。本篇拆解 RAG 的 UX 设计：引用的呈现方式、过程的透明度、以及「让用户信任并有效使用 RAG」的交互设计原则。

Embedding 模型把文本映射成向量，「相似的文本向量相近」——这个能力靠对比学习训练出来，而它的成败几乎完全取决于训练数据：正例对怎么构造、难负例怎么挖。本篇拆解对比学习的训练机制、难负例挖掘的工艺、Embedding 模型的两代演进（BERT 系到 LLM 系），以及微调一个自有 Embedding 模型的最小路径。

看榜单选 embedding 模型经常翻车，因为榜单是通用语料，你的数据不是。本文给出语言与领域的第一分水岭、维度的真实代价、可信评测的做法与工程参数对照表，五十条真实问题即可完成一次有依据的决策。

VectifyAI 开源的无向量 RAG 引擎 PageIndex（当日涨星 +1,095、★38,082、MIT）：把长文档编译成 JSON 层级树，让 LLM 逐节点推理导航，取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径，以及多文档规模化与数据主权的真实边界。

「7B 模型微调要多少显存」是每个入门者都会问的问题，答案却从 14GB 到 100GB 不等——取决于你算没算全四项：参数、梯度、优化器状态、激活。本篇把这四项的账一笔笔算清，给出微调与全量训练的显存公式，以及每一项的省法（混合精度、梯度检查点、LoRA、offload）。

一千万条 768 维 float32 向量要吃 30GB 内存——规模一上来，向量存储就成了 RAG 最贵的一块。本文讲清三条压缩路线：标量量化降精度、PQ 降基数、二值化极限压缩，各自的原理、召回代价与「粗排压缩向量 + 精排原始向量」的标准补偿手法。

RAG 从「检索增强生成」正在演化为「智能知识工作」：从被动检索到主动知识管理、从文档问答到知识推理、从单一管线到多模态多源。本篇展望 RAG 的五个趋势方向，以及它们对「知识工作」的长期影响。

日涨星 1145 的智能体记忆系统：生命周期钩子捕获工具调用，AI 压缩成结构化观察，SQLite 与 ChromaDB 双库存储，三层渐进式检索宣称节省约 10 倍 token；本周六连发版本，也因安装器上传历史提示词陷入隐私争议。

单日涨星 1647 的 XERJ 用 Rust 从零实现了「以 Agent 为主要用户」的搜索/向量/日志引擎：一条命令索引任意文件夹，兼容 Elasticsearch 协议让存量客户端直连，实测让 coding agent 输出 token 减少 2.7 倍。本文拆解它的 crate 架构、混合检索原理与四个落地场景。

PostgreSQL 18 把沿用多年的读路径换成异步 I/O 子系统，复合索引拿到 skip scan，虚拟生成列与 uuidv7 补齐开发者体验，pg_upgrade 首次保留优化器统计。本文以官方 release notes 为准逐项解析，梳理升级实操与行为变化，给出可执行的升级建议。

「A 公司 CEO 的母校是哪所」——两个事实分处两篇文档，单块相似度检索很难一次捞全。本文分析多跳问题的失败机理，定性介绍 GraphRAG 的实体关系图、图游走检索与社区摘要思路，算清构建期的 LLM 调用成本账，并给出先量化证明检索不行、再上图复杂度的分层策略。

本站（alishangtian.com/ainews）正式上线：纯静态架构，内容以 JSON 形式开源存储于 GitHub 仓库，基于预构建倒排索引实现纯浏览器端的本地全文检索。

B+ 树为读优化而生，LSM-Tree 为写优化而生——为什么 Kafka、Cassandra、TiKV、LevelDB 都选择 LSM？写放大、读放大、空间放大的三角权衡，以及 Compaction 的调优之道。

RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面（入库脱敏、检索权限、输出过滤）以及 GDPR 等法规的合规要求。

法律行业是 AI 落地的天然沃土（文本密集、规则明确、案例浩瀚）与谨慎样本（幻觉在法律场景的代价是冤案级的）。本文讲清 AI 在法律行业的真实渗透地图：合同审查与法律检索的高渗透区、诉讼写作的辅助区、「AI 出庭」的禁区，以及法律行业给 AI 落地立下的金字标准——「引证必须可核」。

检索回来的片段直接塞给模型，是 RAG 里被省略最多、也最该做的一段工程：去重、排序、压缩、位置摆放、预算分配，每一步都直接影响答案质量。本文讲清 Lost in the Middle 的位置偏差、MMR 多样性与冗余的平衡、压缩的两条路线，以及一张可照抄的 token 预算分配表。

IT之家 9 月 15 日消息，苹果今日向 iPhone 和 iPad 用户推送了 iOS / iPadOS 27.0 更新（内部版本号：24A437）。 iOS 27 迎来多项性能优化，包括应用启动、显示照片、网络切换、AirDrop、硬…

Heretic 用修饰器、评分器加 Optuna 优化器的三段式架构，在不做任何训练的情况下修改开放权重大模型的行为，v2.0 引入自研 ARA 任意秩消融算法与插件系统，社区已产出 8600 多个改后模型。

微软发布 Edge 开发者更新，新增软导航等性能指标、JS 自分析标记、WebMCP API 及 OpaqueRange API，帮助开发者优化网页应用性能并让 AI 智能体调用网页能力。

单向量检索把整段文本压成一个点，cross-encoder 准但每对都要过一次模型。ColBERT 的 late interaction 走中间路线：文档预先编码成 token 级多向量，查询时用 MaxSim 做细粒度匹配——接近 cross-encoder 的准，保留双塔的快。本文讲清它准在哪、贵在哪、该放在检索流水线的哪一层。