AI 资讯 知识库 RAG 实战手册来源冲突的入库裁决:优先级、合并与保留历史

来源冲突的入库裁决:优先级、合并与保留历史

「差旅住宿报销上限是八百还是一千?」HR 门户上的最新制度说一千,老 Wiki 三年前的页面说八百——两个来源都没撒谎,只是活在不同的时间里。企业 RAG 的日常不是没有答案,而是答案太多且互相打架:检索同时命中两份文档,生成层要么随机站队,要么和稀泥。生成层如何呈现冲突是一个专门话题,本篇讲更前置的一层:入库时就裁决——谁当规范版本、谁降权、谁留档。裁决规则决定了整个系统答案的可信度水位,而它必须写成文档让人可质疑,不能埋在代码里。

手绘信息图:同一事实两个版本的入库裁决与历史版本降权保留

冲突从哪来:三个源头与对齐的前提

第一个源头是多系统并行。组织里同一类知识往往有新旧两套系统:制度搬进了新门户,老 Wiki 的旧页面没人删,成了「幽灵文档」;流程写在协同办公平台,邮件归档里还躺着一份旧版。第二个源头是版本代际。很多团队的更新习惯是「新发一份,不改旧的」——不知道旧版在哪里,或者不敢删,于是第一版、修订版、终版共存于库内,各自都能被检索命中。第三个源头是口径差异,这类最隐蔽:同一个指标名,两个部门用不同的统计定义(「月活」的口径不同);同一个产品名,内部有两个译名;同一个金额,一个系统存分、一个系统存元。口径差异严格说不是谁对谁错,而是视角不同,裁决方式也因此不同。

冲突的代价还常常被低估:它不只是让答案变差,而是让用户学会不信任。用户连续两次拿到互相矛盾的答案,第三次就会退回人工询问,RAG 的使用率从此塌陷。而且冲突的分布很不均匀——恰恰是报销、合规、薪酬这类高频严肃主题冲突最多,因为它们更新最频繁、涉及的系统最多。这意味着冲突裁决不是长尾优化,是高风险主题的必设防线。

裁决的前提是对齐:你得先知道「这两段内容在说同一件事」,才谈得上裁决。这就是事实键的设计——把「实体加属性」归一成一个键,比如「报销:国内差旅住宿上限」。实体归一要处理命名漂移:产品改名、部门重组、系统换名,都要映射到同一个实体 ID 上;属性归一要处理单位与口径:金额统一到分或元,比例统一小数或百分比。对齐做不好,裁决就是空谈——要么检测不出冲突(键没对上),要么误报冲突(把两件事当成一件事)。工程上常见做法是维护一张实体别名表,由命名归一模块在入库时把各种写法折算到规范名。别名表本身就是活水:每次人工仲裁判定的别名都回填进去,归一能力随冲突处理持续变强。

裁决规则集:三级规则与人工仲裁

规则集按优先级从高到低排三档。第一档是显式指定:人工标记的规范版本指针永远优先。这条规则的价值在于是唯一能「越级」的手段——当自动规则给出反直觉结果时,人可以通过显式指定直接定案,规则集因此永远有一个人工兜底的出口。第二档是事实域权威级:每种事实由哪个来源说了算,按域配置。注意权威级不是全局排名,而是按事实域配置的——人力资源事实以 HR 系统为最权威,技术事实以工程文档库为最权威,财务口径以财务系统为最权威;一套全局排名解决不了「谁擅长什么」,就像公文的效力位阶,技术规范签发部门说了不算财务制度。

第三档是时间新近度:权威级打平时,生效时间新的赢。这里有两个坑。一是要用文档的发布或生效时间,而不是抓取入库时间——一份老文档上周被爬虫重新抓了一遍,它的入库时间变新了,内容还是旧的。二是优先用「生效日」而非「发布日」:制度类文档常常提前发布、指定生效日期,裁决应该按制度的效力起点排。三档规则都解决不了的,进人工仲裁队列——比如两个权威级相同的来源给出矛盾数字,或者实体归一模块拿不准两个名字是不是同一件事。仲裁的结果通常不是「判谁赢」,而是回填一条新规则或一条实体别名,让同类冲突下次能自动过。

flowchart TD
    A["新文档入库"] --> B["抽取事实键与属性"]
    B --> C{"同一事实键已有规范版本"}
    C -->|"无"| D["正常入库"]
    C -->|"有"| E{"存在人工显式指定"}
    E -->|"是"| F["显式指定优先"]
    E -->|"否"| G{"事实域权威级可分高下"}
    G -->|"是"| H["权威级高者胜"]
    G -->|"否"| I["生效时间新者胜"]
    F --> J["败者降权保留并挂上版本链"]
    H --> J
    I --> J
    J --> K["写裁决日志供审计与质疑"]
    K --> L{"规则无法定案"}
    L -->|"是"| M["转人工仲裁队列"]
    L -->|"否"| N["裁决完成"]

三档规则之外还有一类常被漏掉的处置:合并。并非所有冲突都该择一:列表型事实(该流程的参与方有哪些部门)适合做并集再人工剔除;条件型事实(A 场景按一个标准执行、B 场景按另一个标准执行)不该判谁赢,而该把两个来源改写成带适用条件的合并答案;数值型事实(报销上限)才适合判赢。裁决函数的输出因此不只是「谁赢」,还包括「合并」「条件化并存」「转人工」这几个出口,把「判」和「合」当成两个动作。误判一个本该合并的冲突,和漏检一个冲突一样伤可信度。

时间新近度还有一个时区与缺失的坑:来源系统的时间戳有的带时区有的不带,跨系统比较前要统一到同一时区基准;字段缺失时宁可用保守回退并打上「时间不可信」的标记,也不要拿默认零值当远古时间——那会让一篇新文档被当成老古董压到队尾。

规则的叠加顺序必须固定:显式指定压过权威级,权威级压过时间。顺序一旦在实现里被写乱(比如某处代码先比时间),同一组输入会在不同路径下得出不同裁决,这类不一致是裁决系统最难查的 bug。把规则做成一个单一的裁决函数,所有入库路径都调它,顺序就只有一个地方可错。

历史的处理:降权保留与版本链

看到冲突,工程师的第一冲动是删掉败者——索引里留一份对的就够了。这个冲动会在审计时变成事故。删除有三重代价:其一,追溯断裂,「去年立项时依据的是哪份文件」这类问题从此无据可查;其二,误判不可逆,裁决规则本身会出错,删掉的那份可能是被冤枉的,删了就没有重新评估的机会;其三,也是最有意思的,「当时是对的」问题——文档的过期只是相对于现在而言,「2023 年的报销政策是什么」这样的时间旅行查询是真实存在的审计与争议场景,回答它需要 2023 年那份文档健在并给出当时的答案。

正确的形态是:胜者成为规范版本,败者降权保留并挂上版本链。版本链用前后指针把同一事实键的历史串起来——新版本带「取代了谁」的指针,旧版本带「被谁取代」的指针,双向可走。降权保留的旧版本从常规检索里退后,但仍然可检索、可引用;答案引用了旧版本时,必须显式标注「该内容已被某文档取代」——不标注的引用等于把过期答案又递给用户一次。对时间限定查询,旧版本按适用期参与检索,「问哪年给哪年」,这是版本链独有的能力,物理删除永远给不了。

// 裁决记录:一次冲突的完整留痕
interface FactClaim {
  factKey: string;     // 归一化后的事实键,如「报销:国内差旅住宿上限」
  sourceId: string;    // 来源文档
  sourceTier: string;  // 来源权威级,按事实域配置
  effectiveAt: string; // 生效时间,而非抓取时间
  value: string;       // 该来源声称的值
}

interface Arbitration {
  factKey: string;
  canonicalId: string;      // 胜出的规范版本
  supersededIds: string[];  // 被压制的历史版本,挂版本链
  rule: string;             // 命中的规则:explicit / tier / recency
  rationale: string;        // 人话解释,写进裁决日志
}

const TIER_ORDER = ["manual", "official", "department", "legacy"];

function arbitrate(claims: FactClaim[], explicitCanonical?: string): Arbitration {
  if (explicitCanonical) {
    return {
      factKey: claims[0].factKey,
      canonicalId: explicitCanonical,
      supersededIds: claims.map(c => c.sourceId).filter(id => id !== explicitCanonical),
      rule: "explicit",
      rationale: "人工指定的规范版本优先",
    };
  }
  const ranked = [...claims].sort((a, b) =>
    TIER_ORDER.indexOf(a.sourceTier) - TIER_ORDER.indexOf(b.sourceTier) ||
    Date.parse(b.effectiveAt) - Date.parse(a.effectiveAt)
  );
  const winner = ranked[0];
  return {
    factKey: winner.factKey,
    canonicalId: winner.sourceId,
    supersededIds: ranked.slice(1).map(c => c.sourceId),
    rule: "tier+recency",
    rationale: `权威级 ${winner.sourceTier} 优先,并列时生效时间较新`,
  };
}
冲突类型 识别信号 默认裁决
多系统并行 新旧系统各说一词 事实域权威级定规范版本
版本代际 文档带版本号或修订痕迹 生效时间新者胜
口径差异 同指标不同统计定义 并存保留,口径字段区分
命名漂移 同实体多个名字 实体归一后视同同键
权威并列 同级来源给出矛盾值 转人工仲裁队列

注意口径差异这一行的裁决方式是「并存」而不是「判赢」:两个口径都活着,判掉任何一个都是制造错误答案。裁决系统的深度就体现在这些「不裁决也是裁决」的分支上。

版本链有自己的维护成本要交代:链会变长,三代以前的旧版本对绝大多数查询已经没有检索价值,但「当时是对的」查询又要求它健在。可行的分层是:近两代版本降权保留在常规索引,更老的版本移入归档分区,只响应时间限定查询与审计接口;版本链指针始终完整,只是位置换档。另一个成本是传播:规范版本翻转时,引用了旧版本的衍生文档(常见问题页、培训材料)不会自己更新,要靠引用反查把影响面列出来派发处理,否则旧答案会借道衍生文档复活。

裁决的工程化:可配置、可审计、可质疑

裁决规则是组织知识治理政策的编码,它的合法性来自被看见。第一条工程要求是配置化:权威级表、事实域映射、时间字段的选取,全部做成配置与文档,不散落在代码里;新接一个来源系统,改配置而不是改代码。第二条是留痕:每次裁决写一条日志,输入是什么(各来源的声称值)、命中哪条规则、结论是什么、依据是什么——审计的人、质疑的人、排查误判的人,看的都是同一份日志。第三条是抽检:定期人工抽一批裁决样本核对,重点看「时间新近度」这条规则的误判率,因为它最容易被「旧文档碰巧入库晚」坑到。

第四条最容易被忽略:规则变更要走回归。裁决规则改一条,库内存量文档的规范版本归属可能大片翻转,答案跟着翻——所以规则变更前要用冲突样本集回放一遍,看翻转范围是否符合预期,再灰度上线。这和检索调参要跑评测集是同一个道理:裁决规则就是检索系统的上游参数,它变了,下游质量必须有据可查。

还有一条纪律:裁决规则要有一份人读的文档。配置文件是给机器执行的,同一套规则要用平实的中文写成治理说明——每个事实域为什么定这个权威级、争议走什么流程——新成员入门、被质疑时的答辩、跨部门对齐,靠的都是这份文档。配置是事实,文档是理由,两者都在,规则才立得住。观点鲜明地说:一个裁决系统成熟与否,不看它自动化率多高,看它被质疑时能不能拿出完整的规则依据与日志链。

小结

入库裁决解决的是「答案可信度」的地基问题:用实体归一与事实键把冲突找出来,用显式指定、事实域权威级、时间新近度三档规则把大多数冲突自动判掉,判不掉的进人工仲裁并回填规则。历史版本降权保留、双向版本链串联,为审计追溯与「当时是对的」查询留好证据。规则配置化、裁决留日志、变更走回归——把裁决从藏在代码里的行为,变成组织里看得见、问得倒、改得动的知识治理政策。

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?