晶体图卷积神经网络用于准确且可解释的材料性能预测

作者Tian Xie与Jeffrey C. Grossman来自麻省理工学院材料科学与工程系。该研究发表于《物理评论快报》（Physical Review Letters）第120卷，文章编号145301，于2018年4月6日正式出版。

一、研究背景与目的

机器学习方法在加速新材料设计方面日益受到关注，其预测材料性能的精度可接近从头计算（ab initio calculations），而计算速度则快数个数量级。然而，晶体系统具有任意大小的特点，这给机器学习应用带来了根本性挑战：大多数机器学习算法要求输入为固定长度的向量，但晶体结构的尺寸并不固定。现有解决方案通常依赖人工构造的固定长度特征向量，或设计对称性不变的原子坐标变换。前者的缺点在于预测不同性质时需要逐例设计特征，后者的缺点则是复杂的变换使模型难以解释。在此背景下，本文作者提出了晶体图卷积神经网络（Crystal Graph Convolutional Neural Networks, CGCNN）框架，旨在直接从晶体中原子之间的连接关系学习材料性质，从而提供一种通用且可解释的晶体材料表示方法。该研究的目标是实现对密度泛函理论（Density Functional Theory, DFT）计算性质的高精度预测，同时提供原子尺度的化学洞察。

二、研究方法与工作流程

本研究的核心方法流程包括以下几个关键步骤：晶体图的构建、图卷积神经网络的搭建、模型训练与优化、以及对多种材料性质的预测与验证。

第一步是晶体图的构建。作者将晶体结构表示为一种无向多重图（undirected multigraph），其中节点代表原子，边代表原子之间的键合连接。与普通分子图不同，晶体图允许同一对节点之间存在多条边，这是晶体周期性结构的直接体现。每个节点i由一个特征向量vi表征，编码该节点对应原子的性质；每条边(i, j)k由一个特征向量u(i,j)k表征，对应连接原子i和原子j的第k条键。原子连接性的判定方法在补充材料中有详细说明。

第二步是构建图神经网络架构。该网络包含两个主要组成部分：卷积层（convolutional layers）和池化层（pooling layers）。卷积层通过非线性图卷积函数迭代更新原子特征向量，经过r次卷积后，每个原子的特征向量能够逐步纳入其周围化学环境的信息。池化层则将晶体中所有原子的特征向量整合为一个整体特征向量vc，该池化函数必须满足原子索引的置换不变性和晶胞选择的大小不变性。本文采用归一化求和作为池化函数。在卷积层和池化层之上，还添加了两个全连接隐藏层（深度分别为l1和l2），用于捕捉晶体结构与目标性质之间的复杂映射关系，最后通过输出层给出目标性质的预测值。

第三步是模型训练。训练目标是最小化预测值ŷ与DFT计算值y之间的差异，以代价函数J(y, ŷ)定义。整个CGCNN可视为由权重w参数化的函数f，将晶体C映射到目标性质ŷ。通过反向传播和随机梯度下降（stochastic gradient descent, SGD）迭代更新权重，求解优化问题。训练数据来自Materials Project数据库，该数据库包含46744种无机晶体，覆盖87种元素、7种晶系和216个空间群。训练时采用60%数据训练、20%验证、20%测试的划分方案。

第四步是卷积函数的设计与改进。作者首先设计了一个简单卷积函数，其中邻居原子特征向量与键特征向量拼接后与共享卷积权重矩阵相乘。该函数经超参数优化后在验证集上的平均绝对误差（mean absolute error, MAE）为0.108 eV/atom。但该函数对所有邻居使用相同的卷积权重矩阵，忽略了不同邻居之间相互作用强度的差异。为克服这一局限，作者设计了改进的卷积函数，先拼接邻居向量z(i,j)k = vi ⊕ vj ⊕ u(i,j)k，然后通过sigmoid函数σ(·)作为学习到的权重矩阵来区分不同邻居的贡献，同时加入残差连接以便训练更深层的网络。该改进使验证集MAE降至0.039 eV/atom，性能显著提升。

三、主要结果与分析

在形成能（formation energy）预测方面，模型在9350个测试晶体上的表现优异。使用简单卷积函数的最佳MAE为0.136 eV/atom，使用改进卷积函数的最佳MAE为0.039 eV/atom，90%的晶体预测误差分别在0.3 eV/atom和0.08 eV/atom以内。与之对比，DFT计算相对于实验测量的MAE为0.081–0.136 eV/atom，说明CGCNN能提供对DFT计算结果的可靠估计。随着训练数据量的增加，两种卷积函数的MAE均系统性地下降。

在多性质预测方面，CGCNN框架被应用于预测绝对能量、带隙、费米能、体模量、剪切模量和泊松比六种性质。改进卷积函数在所有六种性质上的预测性能均优于简单卷积函数。带隙预测的MAE为0.388 eV，而DFT相对于实验的精度为0.6 eV；体模量MAE为0.054 log(GPa)，剪切模量MAE为0.087 log(GPa)，与DFT精度（分别为0.050和0.069 log(GPa)）接近。与de Jong等人基于晶体描述符的统计学习框架相比，在相同训练数据量下，CGCNN在体模量和剪切模量上的均方根误差（root mean squared error, RMSE）分别为0.105 log(GPa)和0.127 log(GPa)，与统计学习的0.0750 log(GPa)和0.1378 log(GPa)相当。值得注意的是，CGCNN仅从晶体结构提取特征，而统计学习依赖内聚能和单位原子体积等晶体描述符。

在离散性质预测方面，通过将输出层改为softmax激活函数并使用交叉熵代价函数，CGCNN可预测金属与半导体的分类。在9350个测试晶体上，接收者操作特征曲线下面积达到0.95。以0.5为阈值时，金属预测准确率为0.80，半导体预测准确率为0.95，总体准确率为0.90。

在模型可解释性方面，作者通过分离卷积层和池化层来解决非线性模型难以解释的问题。经过r个卷积层和l1隐藏层后，将最后一个原子特征向量v_i^®映射为标量ṽ_i，然后进行线性池化直接预测目标性质，无需l2隐藏层。这样可以从总性质中学习每个局域化学环境（以每个原子的ṽ_i表示）的贡献。

作者以钙钛矿为例展示了该方法的应用。所用数据库包含18928个钙钛矿晶体，A位和B位可为任何非放射性金属，X位可为O、N、S、F中的一种或多种元素。CGCNN采用线性池化预测总能（energy above hull），在3787个测试钙钛矿上的MAE为0.130 eV/atom，略高于使用完整池化层和l2隐藏层的0.099 eV/atom，但线性池化版本可在训练总性质的同时学习每个位点的能量。结果表明，A位最稳定的元素为半径较大的元素（满足12配位的空间需求），而Be、B、Si等小半径元素最不稳定；B位最稳定的元素为周期表中第4、5、6族元素，可用晶体场理论解释，因为这些元素的d电子构型有利于B位的八面体配位。有趣的是，第13–15族的大原子在A位也表现出稳定性。基于此发现，作者对第13–15族元素作为A位、第4–6族元素作为B位进行了组合搜索，以0.2 eV/atom为潜在可合成性截断阈值，在全部378个候选钙钛矿中发现了33个落在阈值以内，其中许多化合物（如PbTiO3、PbZrO3、SnTaO3、PbMoO3）已被实验合成。这一化学洞察将高通量筛选的搜索空间从全部18928个钙钛矿中仅228个潜在可合成者缩小，搜索效率提高了7倍。

四、结论与研究价值

本研究提出的晶体图卷积神经网络框架为材料性质预测和设计知识提取提供了一种灵活通用的机器学习方法。在约10^4量级训练数据的条件下，该框架对具有多样结构类型和化学成分的无机晶体的八种性质提供了对DFT计算的可靠估计。作为知识提取的示例，作者将该方法应用于新型钙钛矿材料设计，展示了从模型中提取的信息与常见化学洞察一致，并能显著缩小高通量筛选的搜索空间。

该研究的科学价值在于：首次将图卷积神经网络应用于晶体性质预测，无需人工特征工程或复杂的坐标变换，提供了一种通用且可解释的晶体表示方法。其应用价值在于：模型预测精度接近DFT计算精度，但计算速度快数个数量级，可用于大规模材料筛选；同时，模型的可解释性使研究者能够从预测结果中提取化学设计规则，这对于指导实验合成新材料具有实际意义。

五、研究亮点

本研究的主要亮点包括：其一，提出了晶体图这一直接基于原子连接关系的表示方法，避免了对固定长度特征向量的人工设计；其二，设计了改进的卷积函数，通过sigmoid函数学习区分不同邻居的贡献，显著提升了预测精度；其三，通过分离卷积与池化层实现了模型的可解释性，能够提取局域化学环境对全局性质的贡献；其四，在钙钛矿案例中展示了从模型提取的化学规则与已知化学知识的一致性，并发现了第13–15族元素可作为A位的新化学空间；其五，CGCNN代码已在GitHub上公开（https://github.com/txie-93/cgcnn），便于研究者复现和应用。