AI 资讯 知识库 本体论从文本到三元组:LLM 知识抽取与图谱灌库工程

从文本到三元组:LLM 知识抽取与图谱灌库工程

上一篇解决「本体从哪来」,这一篇解决「知识从哪来」。TBox 只定义了世界的骨架——什么是客户、什么是合同、它们之间允许出现什么关系——而具体的事实,某年某月某公司与某人签了某份合同、金额多少、谁审批的,还散落在 PDF、网页与工单里。把这些事实变成可查询、可推理的三元组(triple),工程上叫灌库(knowledge graph population)。这是整条本体基础设施链路里数据量最大、也最容易做坏的一环。

从文本到三元组

灌库问题:文档里的知识是死的

文档在文件系统里只是字节。全文检索能帮你找到段落,却回答不了「A 公司的所有关联方中,哪些同时服务于 B 项目」这种结构化问题——因为「关联」这个关系没有被显式建模,检索只能碰字面。知识只有落进本体:实体挂上类型、关系挂上本体属性、每条事实带来源与时间,才能被查询、被推理、被治理。

灌库的目标态可以用一句话定义:每条三元组是一个「主语-谓语-宾语」的结构化断言,主语与宾语是本体里有类型的实体,谓语是本体里声明过的属性,且带着证据指针。这个目标态决定了后面每一步的设计取舍——尤其是「谓语不能自由发挥」这一条,是无本体知识图谱与本体化知识图谱的分水岭。

小结:灌库不是「把文本存进图数据库」,而是「把文本里的事实翻译成本体能理解并校验的断言」。

五步管线

第一步:文档分块

分块(chunking)决定抽取的上下文质量。固定长度(例如 512 到 1024 个 token)加 10% 到 20% 重叠是最常用的基线,但更好的做法是结构感知分块:按标题层级、表格、列表边界切,并把标题路径(例如「第 3 章 付款条款 > 逾期处理」)一并送进 prompt。标题路径直接影响实体类型判断——同样一个「支付宝」,出现在「支付渠道」章节和「合作公司」章节里,类型完全不同。

另一个容易被忽视的输入是表格与附件:合同金额、日期、审批人往往在表格里,纯文本分块会丢掉列头与单元格的关联。工程做法是先把表格线性化(列头连同单元格一起输出为一行文本),再进分块流水线;对 PDF 这类版式复杂的文档,抽取质量的上限由解析层决定,而不是 LLM 决定——解析丢的列,模型补不回来。

第二步:实体识别(LLM NER)

prompt 里带上本体类型清单(允许的实体类型枚举)与少量领域示例,要求输出 JSON 数组,温度设为零。与传统 NER 模型不同,LLM NER 不需要标注训练,类型清单即约束。工程要点是让模型同时输出「实体的原文指称」与「归一化名称」,后者是下一步实体链接的输入。

一次合格的实体识别 prompt 至少包含五个要素:任务定义、允许的类型枚举、输出 JSON Schema、两三个领域示例、一条反例说明(例如「不要把章节标题当成实体」)。示例选得「像业务」比选得多更重要——三个贴切示例的收益通常高于十个泛泛示例,这一点在后文的回归评估里可以量化验证。

第三步:关系抽取

在同一块内的实体对之间抽取关系,谓语必须映射到本体属性列表——模型只能从枚举里选,不能造词。这一步通常与实体识别合并成一次调用以省成本,但分开做在复杂文档上更稳:先定实体、再抽关系,每步的注意力更集中。

关系抽取有个粒度陷阱:同一对实体在不同块里可能被抽到不同谓语(「投资」与「持股」),落库前要按谓语语义做归并与冲突标记;跨块的关系(合同甲方在块 1、乙方在块 40)不能靠单块抽取解决,要么依赖实体链接后的图合并,要么在管线里补一个「跨块关系候选」阶段,把强相关块配对后再抽一次。

第四步:实体链接与指代消解

同一实体在文本里有多种称呼:全称、简称、别名、代词(「该公司」「上述供应商」)。策略是两层:块内先做指代消解,把代词与简称归并到块内实体;再做实体链接(entity linking),把每个实体的归一化名称与库里已有实体做向量相似匹配,相似度超过阈值的归一,否则新建实体。新建是危险动作——大量重复实体的图谱基本废掉,所以「库里是否已有相似实体」的检查必须强制执行。

别名表是实体链接的第一优先级数据源,来源有三:本体档案里的同义标注、历史链接决策的沉淀、业务方提供的官方名录。向量相似负责兜底,两者互补;对中文语料还要处理简繁与全半角差异,归一化规则要在链接之前跑完,否则「华为技术有限公司」与「华为技术有限公司(全角括号版)」会被判成两个实体。

第五步:带置信度的三元组落库

抽取结果经 JSON Schema 校验后落库。一条合格的三元组至少包含以下字段:

{
  "subject": { "name": "华为技术有限公司", "type": "Company" },
  "predicate": "cooperatesWith",
  "object": { "name": "清华大学", "type": "Organization" },
  "confidence": 0.87,
  "source_chunk": "doc-2024-0117#chunk-23",
  "quoted_text": "华为与清华大学联合实验室于 2023 年 12 月挂牌",
  "ingested_at": "2026-11-17T08:00:00Z"
}

落库前要做类型检查:谓语的 domain 与 subject 的类型匹配、range 与 object 的类型匹配,不匹配的直接拒绝——这是本体在灌库环节最硬的约束力。

小结:五步管线里最容易被低估的是第一步与第四步——分块决定抽取能看到什么,实体链接决定图谱里每个节点是否唯一。

质量闸门

灌库是流水线,必须有闸门,否则噪声会随时间复利。

  • 本体类型映射:抽出的实体必须挂到已有类上;不在类型枚举里的进「待审」区,由专家决定是补类还是丢弃,绝不硬塞。
  • SHACL 校验:落库前跑一遍 SHACL shapes(必填属性、取值范围、基数限制),违规条目进死信队列人工处理。
  • 置信度阈值分级:高置信直接入库,中置信打标待审,低置信丢弃并留日志。三档阈值按实体类型分别校准,不是全局一刀切。
  • 来源与时间戳:每条事实带证据回链(chunk id 加原文片段),可审计、可撤回——上游文档更正时,能顺着证据指针找到所有受影响的三元组。
  • 人工抽审:按类型分层抽样定期复核,把实测精确率作为灌库管线的核心运营指标。

死信队列要有运营机制,不能只进不出:每周复盘 SHACL 违规与低置信丢弃的分布,如果某类违规集中出现(比如某类文档的日期字段总被抽成错误格式),那是 prompt 或解析层的问题,修源头而不是逐条人工修数据。闸门的健康度指标是「回流率」——进死信队列又最终正确入库的比例,它是整条管线质量最灵敏的信号。

与传统 NER/RE 流水线对比

维度 传统流水线(BERT 类微调模型) LLM 抽取
标注数据需求 数百到数千条人工标注 零标注,prompt 即用
域适应成本 重新标注并微调,以周计 改 prompt 与示例,以天计
召回 受训练分布限制,长尾差 长尾实体召回明显更好
精确率 稳定、可量化调优 方差大,依赖置信度闸门
单位成本 推理便宜,前期投入贵 按块计费,超大语料较贵

一句话概括:LLM 把成本结构从「前置标注」换成「后置评审」,对长尾多变的业务域是净收益,对规模巨大、结构单一且稳定的语料则未必占优。

实践中最划算的往往是混合策略:高频出现的核心实体类型(公司、人员、产品)用传统 NER 模型兜住量与稳定,长尾类型与复杂关系交给 LLM;两者共用同一套本体类型映射与质量闸门。传统模型负责「稳」,LLM 负责「广」,成本曲线在这类组合下最优。

工具生态

无需从零造轮子,四个开源工具覆盖了主流场景,定位各不相同:

  • Neo4j LLM Knowledge Graph Builder(neo4j-labs/llm-graph-builder):Neo4j 官方开源应用,把 PDF、网页、YouTube 字幕等非结构化内容经 LLM 抽取建图入库,自带前端,适合作为参考实现快速起步。
  • LangChain LLMGraphTransformer(langchain-neo4j 包):抽取库组件而非完整应用,支持工具调用式结构化输出与 prompt 式 JSON 解析两种模式,可约束允许的节点与关系类型,适合嵌进自建管线。
  • Microsoft GraphRAG 索引器(microsoft/graphrag):为全局问答优化的完整索引管线(逐块实体抽取、社区检测、分层社区摘要),抽取质量高但索引成本也高;它的逐块抽取环节同样可以单独借用到普通灌库场景,只是要接受那份为全局问答而生的投入,下一篇专门展开。
  • Graphiti(getzep/graphiti):Zep 的开源双时间知识图引擎,事件时间与摄入时间分开建模、事实可过期(失效即可标记而非删除),适合会话记忆与时变事实场景,论文 arXiv 2501.13956 报告其在 DMR 与 LongMemEval 上超过 MemGPT。

选型建议:要快速验证用 Graph Builder,要自建管线用 LLMGraphTransformer,时变事实用 Graphiti,全局问答用 GraphRAG——四者并不互斥。

幻觉三元组治理

LLM 抽取的最大风险是编造:实体不存在、关系无出处、把「未提及」抽成「明确否定」。三个治理手段构成闭环。

  • 证据保留:每条三元组必须带原文证据片段,无证据即作废。评审判看的不是三元组本身,而是证据——有证据的才叫抽取,没证据的叫想象。
  • 双人复核:高风险域对置信度中段的三元组做双人独立复核,分歧条目进仲裁队列,仲裁结果回流为 few-shot 示例。
  • 自动评估:维护一个金标集(gold set,人工标注几十到几百条三元组),每次换模型或改 prompt 就跑一遍 precision/recall 回归——像测代码一样测抽取质量,防止「prompt 改好了 A 场景、改坏了 B 场景」。

自动评估还要分层:整体 precision/recall 之外,按实体类型与关系类型分别出指标。多数模型的幻觉集中在少数几类(组织机构别名、时间表达式是重灾区),分层指标能让修复动作有的放矢;金标集本身也要按类型分层抽样,否则指标会被高频类型淹没,长尾类型的退化根本看不见。

小结:LLM 让灌库从「标不起」变成「审得起」——成本从标注转移到评审与校验,质量保障的核心从训练数据变成证据链与回归评估。

参考资料

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?