标准化不是把数据变完整
化学反应机器学习的瓶颈,常常不是模型参数,而是数据记录能否解释、比较和复用。同一份实验可能以专利文本、论文补充信息、电子实验记录或高通量仪器输出保存;组分角色、用量、条件、收率和失败情况的表达方式各不相同。把它们转换成统一结构,有助于查询和建模,但“字段格式统一”并不等于“实验事实完整”。一个 schema 可以定义哪里放溶剂、温度或结果,却不能从空白字段中推断出实验员当时用了什么,也不能验证记录是否真实。
因此,讨论反应数据质量时应分开三件事:schema规定数据怎样表达;数据集构建决定从哪些记录抽取、怎样清洗和切分;数据验证检查字段和化学关系是否合理。Open Reaction Database(ORD)主要解决结构化表达与共享基础,ORDerly处理从 ORD 数据到机器学习基准的提取和清理,Toniato 等人研究的是自动识别可疑反应记录的去噪。三类工作互补,但各自都不能单独保证完整、无偏且适合所有任务的数据。
flowchart LR
A[原始实验记录与文献] --> B[Schema结构化]
B --> C[任务定义与字段映射]
C --> D[清洗 去重与切分]
D --> E[模型训练和评估]
F[来源与版本信息] -.贯穿.-> B
F -.贯穿.-> C
F -.贯穿.-> D
F -.贯穿.-> E
整个流程中来源信息必须跟随数据,而不是在最后只保留一个文件名。若数据集经过了角色重判、SMILES 标准化、频次过滤或去噪,处理规则也应该能够追溯;否则下游使用者看到的只是一个数字化表格,无法判断样本如何形成。
ORD:描述反应记录的开放 schema 与基础设施
Kearnes 等人在 The Open Reaction Database 中提出 ORD:面向有机反应数据的开放 schema、基础设施和集中式数据仓库。schema 用 Protocol Buffers 表达,记录可以组织反应标识、输入、实验设置、反应条件、备注、观察、后处理、产物与分析结果,以及来源(provenance)等部分。输入可包含化合物、用量和角色;结果可以关联反应时间、产物身份、收率或分析信息。结构化字段让程序能定位数据,同时也保留自由文本等较灵活的描述方式。
ORD 的设计允许记录拥有不同详略程度,以适配传统台式实验、高通量实验和流动化学等场景。对于某个反应,完整程度可能从反应物与产物结构,到实验设置、具体操作和分析数据各不相同。它的价值是给共享和进一步机器处理提供共同容器,而不是要求所有历史文献都能被回填为一份毫无空缺的实验记录。
论文描述的验证机制会检查最低限度的结构一致性,例如反应至少有输入、输入化合物需要数量信息,并对可能歧义的数值发出警告。这样的检查能拦下一些格式错误,却不能保证每个必要实验参数都已填写,也不能判定专利转录的条件是否正确。“通过 schema 验证”意味着记录满足某些数据结构要求,不等价于“该实验可复现”或“字段齐全”。
来源信息对科学复核尤其重要。ORD 可保留提交者、实验者、发布文献或其他溯源元数据,使使用者能够回到原始出处核对;若同一条记录经转换或重新标注,派生过程也应被记录。即使来源链接存在,数据的真实性、完整性与来源许可仍要分别判断。出处能说明信息从哪来,并不能自动证明其中每个条件字段都准确。
论文也直接讨论了数据共享的社会与技术限制:许多专利、回顾性数据缺少完整实验程序,失败或低产率实验并不总会被分享;高通量实验中测量值可能是未校准的相对信号。于是开放 schema 可以改善表达和访问,但数据库最终反映了可获得数据的选择偏差。若训练数据只包含成功反应,模型就会学到一个偏乐观的世界;这种偏差并不会因为格式标准化而消失。
ORDerly:同一记录应按任务重新加工
Wigh 等人的 ORDerly: Data Sets and Benchmarks for Chemical Reaction Data 提供开源 Python 包与可重复的数据处理流程,将以 ORD schema 保存的反应记录抽取、清理并构建成面向正向预测、逆合成和条件预测的基准。它说明即使原始数据已有结构化 schema,进入模型之前仍需按任务筛选字段、定义反应角色、处理重复项、结构表示和罕见组分。不同任务需要不同子集和目标,不存在一套固定清洗参数可同时满足所有研究。
例如,正向产物预测需要明确哪些分子是输入反应物、哪些是辅助组分,以及模型是否看到试剂;条件预测则要从输入中排除作为目标的条件字段。若研究者使用数据库标签直接划分角色,而其中一部分试剂或溶剂被标成反应物,模型就可能在输入端提前接触到需要预测的组分。ORDerly 对条件预测基准的分析显示,依赖 ORD 标签构建的数据会出现旁观组分角色错置,导致任务比预期容易、指标偏高;基于反应字符串与化学逻辑的处理能减少这种输入—目标混杂,但也不意味着自动角色判定毫无误差。
SMILES 标准化同样有双面性。分子名称可能有别名,催化剂也可能以不同拼写或结构形式出现,规范化有助于避免模型把同一化学实体当成多个类别。另一方面,结构标准化并不会自动解决反应角色、立体化学、原子映射或不同实验条件之间的语义差别。人工维护的名称映射字典也会随数据范围而变化;研究者需说明使用了哪一版本、哪些名称未能映射,而不是把清洗后的字符串直接视作无歧义化学事实。
罕见组分过滤也不是中立操作。ORDerly 研究了删去含稀有旁观组分的整条反应,与保留样本但将稀有组分归并到 “other” 等处理选择。前者可能移除真实但少见的新化学,后者则牺牲具体身份信息。不同阈值改变样本量、类别分布和任务难度,因此清洗报告应说明哪些反应被删、保留了多少,以及为何认为这种取舍适合目标问题。数据量少一些不必然更差,数据量大一些也不必然更具代表性。
去噪:提升记录质量,不等于保证真值
Toniato 等人在 Unassisted Noise Reduction of Chemical Reaction Data Sets 中提出机器学习驱动、无需人工逐条标注的反应数据去噪方法,并将其用于从美国专利相关来源整理的反应集合。作者将清理前后的数据用于正向和逆合成模型评估,报告在其逆合成设置中 round-trip accuracy 提升 13 个百分点,累积 Jensen–Shannon divergence 相比原记录降低 30%;覆盖率保持在 97%,类别多样性未受影响。这些是特定数据、清理方法和评估定义下的论文报告,不是任何数据集都能获得的保证。
去噪的目标,是识别可能存在化学错误或与整体模式不一致的记录,减少训练信号中的噪声。它不同于缺失值填补:缺失的反应温度不会因为去噪就被可靠地还原;也不同于实验复现:模型判定记录可疑,并没有在实验室重做该反应以判真伪。反过来,一条在结构或条件上罕见的记录可能是错误抄录,也可能是真实但新颖的化学。自动过滤需要在减少错误和保留少见发现之间权衡。
因此,去噪方法需要公开目标、误差分析和样本保留策略。若清理器倾向于保留常见转化并移除异常样本,下游模型可能在常规任务上看起来更稳定,却不再代表罕见反应或长尾化学。使用者应对原始和清理后数据分别做评估,最好对被剔除样本抽查并保留可回溯标记。去噪不是把原始记录覆盖掉,而应是可复现的数据派生步骤。
Catalysis-Hub:数据标准不能混淆不同化学领域
Winther 等人的 Catalysis-Hub.org 论文展示了另一种反应数据库:面向催化表面反应的电子结构计算数据。它的 Surface Reactions 数据库储存吸附能、反应能和部分活化能,并把反应结果与表面组成、原子结构、吸附位点、计算设置和文献来源等信息关联。数据记录连接到具体的密度泛函理论(DFT)计算,使使用者可以追踪能量数值所依赖的结构与计算方法。
这与 ORD 面向实验有机反应记录的用途不同。Catalysis-Hub 重点是异相催化及电催化相关的表面体系、吸附物和计算几何,不是所有有机合成反应的通用条件库,也不是实验收率数据库。它可支持表面反应能量趋势分析、计算催化研究和机器学习代理模型,但不能直接替代反应器中测得的转化率、选择性或寿命数据。
论文特别提醒,不同数据集可能采用不同 DFT 软件、交换关联泛函、表面晶面、吸附位点和计算参数,因此跨研究的能量不一定可直接比较。活化能涉及过渡态计算,成本较高,数据库中并非所有反应都有相应势垒;吸附能等量更容易获得,却不能单独等同于反应速率或催化活性。基准数据来自多篇研究的汇总,方法条件不一致可能成为建模混杂因素。数据库的结构化与可查询性提高了重用可能性,却不消除计算方法差异。
这个案例说明,所谓“反应数据标准”必须绑定科学对象和观测类型。实验有机反应、光催化配方、表面吸附计算、动力学实验都可以被称为反应数据,但它们的记录字段、误差来源和目标标签并不相同。若把表面 DFT 能量数据与实验合成收率放在同一张宽表里,未标注观测方式和来源,就会把物理量、计算值与实验测量混成不可解释的标签。
缺失字段、重复样本与评估泄漏
缺失值在化学数据中不总是一个简单的空格。温度未填写可能表示未报告、没有控制、该记录来自专利摘要,或数据库导入时丢失;试剂空缺可能表示不需要、尚未指定或未记录。把所有空值统一填成“无”会改变科学含义。任务构建时应区分“字段缺失”“实验明确未使用”和“不适用”,并在需要时将无法判断的记录排除或单独编码。任何填补策略都要在训练和测试流程中一致执行。
重复记录则可能造成模型评估泄漏。同一反应可以出现在多篇文献、同一专利的多个例子或不同 SMILES 序列中;如果完全相同或近似相同的反应分散到训练集与测试集,模型可能只是复现见过的记录。对条件预测,还需检查相同反应物和产物在不同记录中的条件是否跨越集合;对正向预测,则要关注等价底物表示、产物异构体和专利家族。ORDerly 明确将去重和数据切分视为管道步骤,并在条件任务中确保训练与测试反应输入不重叠,以降低一种直接的泄漏途径。
但“无重复”也不是唯一的好切分标准。随机切分通常估计同分布样本上的插值能力;按时间切分更接近预测未来记录,按来源或专利家族切分可以测试跨来源迁移,按反应类别或底物结构留出则检验更强的外推。每种切分回答不同问题,不能因为一个 benchmark 使用随机切分,就把结果解释为新化学的泛化能力。研究者应在论文中说明测试集模拟的应用场景。
评估指标也会受到标签构造影响。若条件目标是溶剂、试剂的无序集合,却使用对顺序敏感的模型输出,指标需要对分子排列作合理处理;若同一转化有多个实验有效条件,精确匹配历史记录会惩罚另一个可行解。正向预测的精确 SMILES 匹配也会受到等价写法和标准化的影响。指标高低不仅由模型决定,还由“正确答案”如何定义决定。
建立可审计的反应数据流程
一个可复用的反应数据流程应保留原始层和派生层。原始层保存来源记录及导入时间;规范化层记录结构转换、角色映射、单位换算和字段解析;任务数据层说明预测目标、纳入排除规则、标签语义和切分方式。所有变换尽量有版本号和可重跑代码。若人工校正了某个分子名称或条件,也应记录人工判断依据,避免最终 CSV 成为唯一而不可追踪的事实载体。
建模前,可以按照下面的顺序核查:
- 明确任务:模型究竟预测产物、条件、收率、选择性,还是计算能量?
- 检查角色:输入组分和预测目标是否被正确区分,是否存在答案泄漏?
- 审查缺失:空值表示未报告、明确无该组分,还是不适用?
- 做重复检查:原始反应、规范化反应及输入—标签组合是否跨集合重复?
- 评估来源偏差:数据是否只包含特定专利、发表结果或成功实验?
- 选择切分:随机、时间、来源或结构留出分别对应什么应用场景?
- 保留追溯能力:处理参数、映射表、删除记录与数据版本能否复现?
这样的检查不会让数据天然无噪声,却能让模型结果更容易解释。如果一个清洗步骤提高了指标,应解释指标改变的原因,而不是只把“更高分”写成“数据质量更好”。过滤可能减少标注错误,也可能让问题更简单;是否更适合部署,需要看新任务中的样本和错误类型。
结论:统一表达是起点,质量证据仍要逐项建立
ORD 提供共享的记录结构和溯源框架,ORDerly 让任务化抽取、清洗与基准生成更可复现,Toniato 等人的工作展示了自动去噪可能改善特定模型评估,Catalysis-Hub 则说明计算催化数据需要记录原子结构与计算设置。它们共同推动数据更可发现、可处理,却没有宣称“标准化后就是完整真值”。
科学可用的数据需要同时回答:字段表示了什么,哪些信息缺失,数据从哪里来,经过何种处理,评估集与训练集是否存在重叠,以及结果能否迁移到目标应用。明确这些边界,比把任何一个 benchmark 的分数当作数据质量的唯一证明更重要。
参考资料
- The Open Reaction Database — ORD 的反应 schema、数据基础设施、溯源和局限说明。
- ORDerly: Data Sets and Benchmarks for Chemical Reaction Data — 面向机器学习任务的 ORD 提取、清洗与基准构建。
- Unassisted Noise Reduction of Chemical Reaction Data Sets — 机器学习驱动的反应记录去噪方法及特定评估结果。
- Catalysis-Hub.org, an open electronic structure database for surface reactions — 面向催化表面计算数据的结构化数据库及跨计算设置的比较限制。
读者留言
COMMENTS 暂无还没有留言,来说第一句?