AI 资讯 知识库 RAG 实战手册HyDE 假设文档:用「假答案」找真答案

HyDE 假设文档:用「假答案」找真答案

检索工程师通常想方设法让模型少编造,HyDE(Hypothetical Document Embeddings,假设文档嵌入)反其道而行:先让大模型一本正经地编一个「假设答案」,再拿这个可能满纸错误的文段去做向量检索,用假答案把真文档钓出来。这个方法是 Gao 等人在 2022 年提出的零样本检索技巧(论文题为 Precise Zero-Shot Dense Retrieval without Relevance Labels),截至 2026-11 仍是检索增强工具箱里的常备件。它的成立依赖一个朴素事实:问题与答案住在嵌入空间的不同街区,而假设文档恰好是通往答案街区的换乘站。

手绘信息图:问题直接嵌入与假设文档嵌入的两条检索路径对比

语义鸿沟:问题与文档不住在同一个街区

双编码器检索的承诺很美好:把查询和文档映射进同一个向量空间,语义相近就相近。但这个空间里有个系统性错位——查询和文档根本不是一种文体。长度不对称:问题是一句话,目标文档可能是三页纸;体裁不对称:问题是疑问句,文档是陈述句、条款原文或技术说明;信息密度不对称:问题只有寥寥几个关键词,文档有完整的论证结构、术语铺陈和背景交代。训练数据里「问题-文档」的配对样本有限,模型学到的对齐远没有「文档-文档」之间的对齐扎实——语料库里所有文档彼此都长得像,查询反而是空间里的异乡人。

后果在短查询上尤其严重:一句「怎么配置灰度发布」的向量,落在的是「问题簇」——附近聚着一堆相似的问题文本、FAQ 条目;而真正讲灰度发布的工程文档在「答案簇」里待着,两个簇之间隔着一个模型没有完全学会的鸿沟。最近邻检索从问题向量出发,捞回来的常常是「长得像问题的东西」,而不是「包含答案的东西」。做过检索效果排查的人都见过这个现象:top 结果里全是其他用户的提问记录,正经文档反而排在后面,误以为嵌入模型不行,换了好几轮模型也没有起色。

打个比方:去图书馆找书,对管理员重复你的问题,不如直接描述「你要找的那本书大概长什么样」——讲清楚它大概讲什么、用什么词、写成什么样,管理员一步就能把你领到正确的书架前。HyDE 做的就是这件事:既然找不到答案,就先写一篇「答案大概长什么样」,让描述替你问路。这个比喻也暗示了它的软肋:如果你的描述离谱到连书架都指错,图书馆越大,你被领得越偏。

HyDE 机制:先编后找的完整链路

链路四步。第一步,生成假设文档:用指令模板驱动大模型,模板里给任务描述(可附少量示例),要求它写一段「看起来会包含该问题答案」的文档片段。关键约束是「像」而不是「对」:不要求事实正确,要求体裁对、术语对、结构对——写成一篇工程文档该有的样子,用上领域黑话。第二步,嵌入:把假设文档过嵌入模型得到向量,此刻查询已经从「问题的形状」被搬运成「答案的形状」。第三步,检索:拿这个向量在真实语料里做最近邻搜索,因为假设文档和语料文档同属「文档空间」,相似度信号比问题对文档强得多。第四步,照常收尾:重排、组装上下文、生成答案——假设文档本身完成任务即丢弃,绝不进入上下文,用户从头到尾看不到它。

为什么编错了也无所谓?这是 HyDE 最反直觉也最精髓的地方:假设文档的价值在语义方向,不在事实内容。模型把「报销上限」编成八百而真实制度是一千,不妨大局——整段文字的术语(差旅、报销、住宿标准)、体裁(制度条款式陈述句)、话题结构都对,向量方向已经落进了答案街区;嵌入空间里,「方向大致对的错答案」比「措辞精准的好问题」更接近真文档。论文把这个性质说得很清楚:即使假设文档含事实错误,它的近邻仍然稳定命中相关文档,因为相似度捕捉的是主题与文体结构。

HYDE_PROMPT = (
    "请根据以下问题,写一段两百字左右、看起来会包含该问题答案的文档片段。"
    "只求像一篇真实文档,不要求事实正确;请使用该领域的标准术语与陈述句体裁。\n\n问题:{question}"
)

def hyde_retrieve(question: str, k: int = 10) -> list[Document]:
    passage = llm.generate(HYDE_PROMPT.format(question=question))  # 可能编造,但体裁与术语要对
    vec = embed(passage)            # 问题被搬运进答案的语义街区
    hits = vector_db.search(vec, top_k=k)  # 在真实语料里做最近邻
    return rerank(question, hits)   # 假设文档不进上下文,只当探路者
flowchart LR
    Q["用户问题"] --> A{"选择检索路径"}
    A -->|"直接嵌入"| B["问题向量落在问题簇"]
    A -->|"HyDE 路径"| C["LLM 生成假设文档"]
    C --> D["嵌入假设文档"]
    D --> E["向量落在答案簇"]
    B --> F["近邻多为相似问题"]
    E --> G["近邻命中目标文档"]
    F --> R["重排后组装上下文"]
    G --> R

提示词本身值得打磨几句。任务描述里给出一两个领域示例(少样本),假设文档的术语与体裁立刻对齐一个档次,示例的成本远低于后处理纠偏。长度指令也有讲究:假设文档要够长到「像一篇真文档」,太短了嵌入之后还是问题簇的形状;但也不必长到浪费生成时间,几百字足够撑起文档的语义骨架。另一个细节是指令措辞:如果模板只说「回答这个问题」,模型倾向给一段直给的答案;要求它「写一篇包含答案的文档」,产出的才是带背景交代、带术语铺陈的文档形态,这正是嵌入所需要的。

一个实用变体是多份假设:同一问题用不同提示或不同采样温度生成两三份假设文档,分别检索后取并集,或把向量取平均再做检索。单次生成有随机性,这一份偏了另一份可能正着,多份能显著压住方向漂移,代价是生成成本翻倍——值不值,取决于你对单次生成稳定性的观察。

适用与失效:什么时候值得多调一次模型

HyDE 不是默认开启的万金油,它的收益高度依赖场景。最值得开的场景有三类。零样本冷启动:新领域没有标注数据、没资源微调嵌入模型,HyDE 是不花钱就能拿到「查询-文档对齐」的捷径,这正是论文原始动机——无相关标签也能做稠密检索。体裁悬殊:用户的自然语言问题对着法条原文、合同条款、API 文档这类高度格式化的语料,问题与文档的文体距离最大,假设文档搭桥的收益也最大。关键词稀疏的短查询:一句话里几乎没有可命中的词,向量又落在问题簇,HyDE 的搬运效果最明显。

失效场景同样明确。领域陌生导致的风格漂移:如果模型对领域一无所知,生成的假设文档连术语都是错的,向量方向跑偏,检索反而不如直接查——编造的答案不是总能逼近正确答案的街区,方向错得离谱时,图书馆越大偏得越远。长查询收益递减:用户的查询如果已经是一段描述性文字,信息密度接近文档,直接检索已经够用,再编一遍是画蛇添足。关键词任务直查更快:明确的产品名、错误码、型号查询,关键词检索一步到位,HyDE 反而可能引入语义漂移。还有一个工程上最常见的误判:把「检索质量差」一律归因于语义鸿沟——先确认问题真的出在问题-文档错位上,再动用 HyDE,否则是拿着锤子找钉子。

场景 是否值得 替代方案
零样本冷启动无标注 值得 关键词检索兜底
问题与语料体裁悬殊 值得 少样本微调嵌入模型
短查询关键词稀疏 值得 查询扩展补词
查询已是长文档式 不值得 直接检索或先摘要改写
明确实体与错误码 不值得 关键词检索直查
高并发低延迟入口 谨慎配额 缓存加两段式触发

与查询改写的分工:两个不同的空间

HyDE 容易和查询改写混为一谈,其实是两个方向的操作,值得专门划清边界。查询改写工作在问题空间:把「这个接口怎么挂了」改写成「接口报错排查方法」,问题还是问题,只是措辞更规范、术语更标准,改动的是问法的表达形态。HyDE 工作在文档空间:它产出的根本不是问题,是一篇伪文档,跨过了问题的文体边界,直接站到文档那一侧去检索。打个不严谨的比方:查询改写是把方言换成普通话再问路,HyDE 是干脆自己画了一张目的地速写拿去找相似建筑。

划清边界的实际意义是投入决策:两者解决的是同一个鸿沟的不同侧面,可叠加但不必重复投入。如果你们的问题侧噪音重(口语化、错别字、术语混乱),先做查询改写,见效快、成本低;改写后仍有明显的体裁错位(典型如问答对法条),再加 HyDE。顺序反过来则容易浪费:问题本身都没理顺,编出来的假设文档方向也歪。叠加使用时有个细节:改写后的查询去生成假设文档,比原始口语问题生成得更稳,两道工序的先后顺序是有讲究的。

成本与工程化:配额、缓存与两段式触发

成本账要摊开算:HyDE 给每次查询增加一次 LLM 调用加一次嵌入,首字延迟显著上升,流式体验变差——用户等假设文档写完才开始检索,才谈得上生成答案。所以工程化的核心思路是「别让所有查询都付这笔钱」。第一招是两段式触发:先直接检索,观察结果分数带,分数带健康(有明确高分断层)就直接走,分数带平庸(全是半吊子分数)才触发 HyDE——语义鸿沟严重的查询本来就该是少数。第二招是缓存:相同或语义相近的查询,假设文档直接复用,热门问题第二次起零额外成本;假设文档不涉敏感输出,缓存顾虑比答案小。第三招是配额:按查询类型分配 HyDE 预算,只对收益场景开放,闲杂查询一律直查。三招叠加之后,HyDE 的平均延迟开销通常能压到只对少数难查询可见。

验收要有对照组:同一评测集,开关 HyDE 各跑一遍,看召回与端到端答案质量的增量,再拿增量对比延迟与成本的支出。别只看检索指标不看答案指标——假设文档带来的候选变化,要穿过重排和生成才知道最终成色。上线后还要盯触发率:如果一半以上的查询都触发了 HyDE,说明基础检索本身有更大的问题,先修检索再谈增强。预期管理上,HyDE 的收益往往呈两极分布,体裁悬殊的场景提升显著,问题与文档本来就对齐的场景几乎无感,评测时按场景分桶看,别用平均数掩盖两极。

小结

HyDE 的机制一句话说完:查询与文档在嵌入空间存在系统性的体裁错位,让大模型先编一篇「像答案的假文档」,把查询搬运进答案的语义街区,再用它去找真文档——编造的内容不进上下文,只当探路者,因此错得起。它的适用边界同样清晰:零样本冷启动、体裁悬殊、短查询稀疏三类场景值得开,领域陌生、长查询、关键词任务不值得开。工程上用两段式触发、缓存与配额控制成本,与查询改写按「问题空间、文档空间」分工配合。用生成换检索是一根杠杆,支点是对鸿沟类型的准确判断。

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?