原子结构的三维等变网络:让旋转进入神经网络的几何规则

一句话结论:把对称性放进模型,减少无意义的自由度

原子结构整体旋转或平移,不会因此变成另一种物质;原子索引重排,也不应改变物理量。普通神经网络并不天然知道这些规律,研究者往往要靠不变特征、数据增强或额外约束来补上。三维等变网络更进一步:输入几何对象如何变换,隐藏表示就按指定的数学规则变换;若输出是能量,它保持不变,若输出是力,它随坐标一起旋转。

Tensor Field Networks(TFN)以球谐函数与张量特征构建这套运算;NequIP 把等变图卷积用于原子势;MACE 则通过更高阶的邻居特征组合改善消息传递的表达能力。它们提供的是结构化归纳偏置,不是精度保证。数据覆盖、邻域截断、参考理论和目标体系仍决定模型能否可靠应用。

不变与等变:能量和力需要不同的变换方式

考虑一组原子位置 R,整体旋转矩阵为 Q,平移向量为 t。结构变成 Q R + t。若模型预测总能量 E,正确的变换关系是 E(QR+t)=E(R),这叫不变性;若预测原子力 F,则应有 F(QR+t)=QF(R),这叫等变性。力并非在变换后保持同一个向量,而是随着坐标轴一起旋转。类似地,张量性质也要依照对应的表示矩阵变换。

等变性之所以重要,不只是因为“物理上好看”。如果训练集中的同一局部结构只以一种朝向出现,普通网络可能记住朝向相关模式;等变层则让不同朝向在模型内部保持一致,减少它必须从样本中重新学习的规律。它可以带来更高的数据利用效率,但实际收益取决于数据、基线、优化和任务。若数据本已包含足够多样的取向,或模型瓶颈在参考标签噪声而非几何表达,等变性不一定改变最终误差。

原子系统中还需同时考虑平移、同种原子置换、周期性边界与元素类型。平移可通过相对坐标消除;原子置换通常通过对邻居求和等对称聚合处理;旋转则要求向量、张量特征具有正确的表示变换;周期边界要在构图时枚举相邻晶胞的像。模型只在某一群作用下等变,并不意味着它自动处理了所有这些对称性,论文和软件配置须说明具体约定。

TFN:从球谐滤波构造张量场卷积

TFN 的关键设计是让每个点上的特征不止是一个标量。隐藏特征可以按旋转群的不可约表示分解:l=0 是标量,l=1 是向量,l=2 可表示对称无迹二阶张量,更高阶对应更复杂的方向性模式。每一种阶数可以有多组通道。对于三维点云,层与层之间的滤波器结合距离相关的可学习径向函数和相对方向上的球谐函数,使特征在旋转时遵循预定变换。

为什么需要 Clebsch–Gordan 耦合

两个张量表示组合时,输出不应随意混合分量。TFN 使用 Clebsch–Gordan 系数,把输入特征阶数与滤波器阶数耦合成允许的输出阶数;组合的范围由表示理论决定。对特征通道做线性混合时,权重在表示的分量维度上共享。非线性层也需谨慎:标量可直接经过普通非线性函数,高阶张量通常通过其范数产生门控系数,再缩放原向量或张量,避免把它映射到不符合几何变换律的方向。

TFN 的贡献不是“把三维坐标喂给更大的网络”,而是构造一类能在旋转和点置换下保持受控变化的点卷积。论文在形状分类、物理量预测与分子任务上演示该表示,也讨论了引力加速度、转动惯量等几何量。它们说明等变构造可用于不同类型的 3D 数据,但这些示范任务并不等价于证明模型在任意材料、任意温度或任意长时间轨迹上都可靠。原论文也指出部分基准结果并非当时最先进,不能把“具有对称性”直接翻译成“榜单最优”。

NequIP:用等变图网络预测能量,再对坐标求导

NequIP 把原子环境转为局域图:原子为节点,cutoff 内的原子对为边,边方向提供几何信息。节点特征包含不同阶的 O(3) 表示;径向函数编码距离,球谐函数编码方向,表示张量积负责在更新中组合不同阶的特征。网络最后为每个原子给出标量能量,求和得到总能量;原子力由总能量对位置的负梯度得到。由于力来自标量能量的导数,能量与力保持一致的势能面关系。

等变操作解决的是坐标变换的一致性,局域图则带来另一项工程假设:超过 cutoff 的影响要么很小,要么由别的机制处理。对有明显长程电荷、极化或弹性耦合的体系,简单局域截断可能不够。NequIP 论文报告了分子与材料实例中的数据效率和准确性,并在特定任务上与既有势比较;这属于给定数据集、拆分与训练条件下的实验结果,不等同于普遍的“比所有势少训练若干倍”。论文也讨论了等变性如何影响学习、消息传递如何体现高阶相互作用等未完全解决的问题。

MACE:提高单层消息所含的邻域阶数

普通图消息传递每轮主要聚合中心原子与单个邻居的信息。要表达多个邻居共同决定的局域几何,模型可能需要更多层,信息也会经过多次更新。MACE 通过更高阶的等变特征组合,把多个邻居的关系在消息内部显式形成;其构造和原子簇展开(ACE)的多体基底思想相关。论文用相关阶数参数描述消息所涉及的邻居组合,并指出在合适条件下,高阶特征可形成系统的局域多体描述。

作者报告,在其测试任务中,四体消息支持较少消息传递层数仍取得有竞争力的精度;主要演示包括 rMD17、3BPA 和 acetylacetone 等分子数据。MACE 文中还讨论了高温外推、扭转与氢转移路径等测试,这些结果支持特定分子势上的表现,不能自动外推到所有凝聚相或晶体。作者明确指出仍需在更大体系(如固体与凝聚相)继续测试,并提醒不同实现的速度比较不完全可直接对齐。

方法 主要表示 架构重点 结论边界
TFN 点上的标量与高阶张量场 球谐滤波与表示耦合 证明了等变点卷积可行,不是通用材料势基准
NequIP 原子图上的 O(3) 表示 局域等变卷积,能量求导得力 论文结果限于其数据集与训练协议
MACE 原子邻域的高阶等变组合 在消息中表达更高阶邻居关系 论文要求继续验证大体系与固体

一个最小旋转等变性检查

下面的 NumPy 例子不实现任何网络,只检查向量输出应满足的旋转关系。实际模型测试要用多组随机结构、随机旋转、原子置换以及周期边界,并检查能量不变、力协变;还应在训练前做单元测试,避免坐标顺序或矩阵方向写反。

import numpy as np

angle = np.deg2rad(37.0)
q = np.array([
    [np.cos(angle), -np.sin(angle), 0.0],
    [np.sin(angle),  np.cos(angle), 0.0],
    [0.0,            0.0,           1.0],
])

r = np.array([0.4, -1.2, 0.7])
force = np.array([-0.1, 0.3, 0.8])
rotated_position = q @ r
rotated_force = q @ force

assert np.allclose(np.linalg.norm(r), np.linalg.norm(rotated_position))
assert np.allclose(np.linalg.norm(force), np.linalg.norm(rotated_force))
print("rotation transform sanity check passed")

这只能检查旋转矩阵对向量的作用,不能证明一个实现正确。模型层级的检验应额外比较 model(QR) 与 Q model(R),同时检查能量预测 E(QR) 与 E(R) 的差是否低于数值容差;误差来源可能包括邻居表跳变、有限精度、截断边界和实现 bug。若输出力是从能量自动微分得到,还要用有限差分在少量构型上交叉检查梯度。

坐标、单位与周期邻居的实现约定

实现时先固定坐标约定:位置是列向量,主动旋转写成 r' = Qr;晶胞矩阵 A 的列存基矢,周期像以整数列向量 n 表示。边位移为 r_j + A n - r_i,按 cutoff 枚举镜像并保留 (i, j, n);仅按原子对去重会漏掉小晶胞中的不同周期像。

单位也须成套转换:坐标与晶胞用 Å、能量用 eV 时,力标签为 eV/Å。若能量损失采用每原子平均值,求力仍应对预测总能量求导,避免把 1/N 因子带入力。

单元测试对随机 Q 同时旋转坐标和晶胞,检查能量不变、力满足 F' = QF;再置换原子并逆置换力,检查索引对应。若实现声明 O(3) 等变,补测反射矩阵,单测 SO(3) 旋转不能覆盖奇偶通道。

应该如何选模型:对称性是约束,不是决策答案

如果目标是预测能量、力或结构张量,先确认目标量的变换性质,再选不变或等变表示。只预测旋转不变的标量性质时,标量不变图网络可能已足够;若要输出力、偶极矩、应力或方向性响应,等变架构更自然。计算预算、批量推理速度、局域邻居数量、可用实现和预训练数据同样重要。高阶张量与张量积可以增加表达能力,也可能增加显存与算力开销,不能只看一个测试集误差。

验证时应让数据切分与拟用场景匹配:随机留出的近邻构型主要检查插值;留出分子、组成、晶体原型、温度或表面环境,才更接近某些外推问题。还要统一参考计算精度、训练样本量、模型规模、截止半径与优化策略,避免把数据预处理差异误判成架构进步。错误分析应按元素、配位、能量和受力范围分组,而非只报告总体 MAE。

TFN、NequIP 与 MACE 展示了从几何约束到原子势建模的连续发展:前者明确了三维张量场卷积的构造,后两者把等变消息传递推进到能量与力预测以及高阶邻域组合。选择它们的理由应是目标几何关系、数据效率或表示能力需要,而不是相信网络“懂物理”。可靠性最终仍由数据、计算协议、外推检查和复算来支撑。

参考资料

← 返回资讯列表

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?