本文属于类型a，即单一原始研究论文。以下是对该研究的学术报告。
一、主要作者、研究机构及发表信息
本文的主要作者为Chi Chen、Weike Ye、Yunxing Zuo、Chen Zheng和Shyue Ping Ong，均来自美国加州大学圣地亚哥分校（University of California San Diego）纳米工程系（Department of Nanoengineering）。通讯作者为Shyue Ping Ong。该研究于2019年4月2日投稿，2019年4月9日修订，2019年4月10日发表在《Chemistry of Materials》期刊上，卷号为31，页码为3564至3572，DOI为10.1021/acs.chemmater.9b01294。
二、研究背景与目的
近年来，机器学习（machine learning, ML）在材料科学领域得到了广泛应用，尤其是在高通量计算和组合实验产生的大量材料数据的推动下，发展快速的代用机器学习模型用于材料性能预测已成为研究热点。对于分子体系，基于图（graph）的表示方法因其能够自然描述原子和化学键的连接关系而成为主流选择。对于晶体体系，则需要进一步考虑晶格周期性（lattice periodicity）和空间群对称性。Xie和Grossman提出的晶体图卷积神经网络（crystal graph convolutional neural networks, CGCNN）通过卷积和池化操作实现了对晶体性质的准确预测。
然而，现有模型仍然存在若干局限。第一，大多数机器学习模型仅针对分子或晶体单一体系开发，跨体系通用性不足。第二，现有模型缺乏对全局状态变量（global state，如温度、压力、熵）的描述，无法有效预测依赖于状态的性质，例如自由能。第三，数据稀缺仍然是训练高性能模型的关键瓶颈，例如材料项目（Materials Project）中虽然有约69000个形成能数据，但弹性常数数据仅有约6000个。
为了应对这些挑战，本文作者提出了带有全局状态属性的图网络（graph networks with global state attributes）作为统一的、可组合的材料结构—状态—性质关系预测框架，并开发了材料图网络（materials graph network, MEGNet）模型。该研究旨在证明MEGNet模型能够在分子和晶体两类体系中均取得优于已有模型的性能，同时通过引入全局状态变量实现多性质统一建模，并利用迁移学习（transfer learning）方法改善数据稀缺性质的预测表现。
三、研究流程与方法
本研究的工作流程可以分为模型形式化、数据收集与处理、模型构建与训练、模型性能评估与分析四个主要部分。
首先，作者对图网络形式进行了定义。在MEGNet中，体系由图G = (e, v, u)表示，其中v表示原子（节点/顶点）属性集合，e表示键（边）属性集合，u表示全局状态属性向量。对于分子，键信息（如键的存在、键级等）通常由输入定义直接给出；对于晶体，键则通过距离截断（cutoff）定义，即原子间距离小于某一半径时认为存在键。图网络模块包含一系列更新操作：先利用键自身属性、连接原子属性以及全局状态向量更新键属性；接着利用原子自身属性、与之相连的键属性的平均值以及全局状态向量更新原子属性；最后利用全局状态自身、所有键属性的平均值和所有原子属性的平均值更新全局状态。更新函数选择为具有两个隐藏层的多层感知机（multilayer perceptron），激活函数为修正的softplus函数。在模型结构上，作者在每个MEGNet模块前增加两个全连接层（dense layers），并引入残差网络式的跳跃连接（skip connections），构成MEGNet block。多个MEGNet block可以堆叠以增强模型表达能力。最终通过set2set读出操作将原子和键属性集合压缩为单一向量，并与状态向量拼接后通过多层感知机输出预测值。当原子特征仅为原子序数时，在输入后加入嵌入层（embedding layer）。
其次，作者收集了两个主要数据集。分子数据集为QM9，包含130462个有机小分子在B3LYP/6-31G(2df,p)水平下的密度泛函理论（density functional theory, DFT）计算结果。晶体数据集来自Materials Project，包含69640个晶体的DFT计算能量和带隙数据，作者将其命名为mp-crystals-2018.6.1。晶体图使用4 Å的半径截断构建，其中69239个晶体未形成孤立原子并用于模型训练。形成能模型使用全部晶体，带隙回归使用45901个具有有限带隙的晶体，弹性模型使用5830个具有弹性数据且无计算警告的晶体。
在模型构建与训练方面，作者使用Keras API和TensorFlow后端开发了定制化的MEGNet。由于分子和晶体的原子数不同，作者将多个分子或晶体组装成具有多个目标的单一大图进行批训练。优化器采用Adam，初始学习率为0.001，后期降低到0.0001。数据按照不同比例划分训练集、验证集和测试集。对于分子模型，90%数据用于训练；对于晶体形成能模型，使用60000个晶体训练；带隙和弹性模量模型采用80:10:10的划分。验证误差连续500个epoch无改善时停止训练。所有模型在NVIDIA GTX 1080 Ti GPU上训练。元素嵌入维度设为16。
第三，在模型评估方面，作者在QM9的13种性质上比较了MEGNet-full、MEGNet-simple、SchNet、MPNN enn-s2s以及Faber等人的基准模型；在Materials Project晶体数据上比较了MEGNet与SchNet和CGCNN在形成能、带隙、体模量、剪切模量和金属/非金属分类上的性能。作者还进行了消融实验以研究半径截断、MEGNet block数量等超参数的影响，并通过Pearson相关性分析和t-SNE可视化研究了元素嵌入的化学趋势。
四、主要结果
在QM9分子数据集上，MEGNet-full模型在13个性质中的11个上优于SchNet和MPNN enn-s2s模型。其中，HOMO能量、LUMO能量、偶极矩、极化率、内能、焓、吉布斯自由能和热容等性质的MAE均达到或接近化学精度。仅有偶极矩范数μ和电子空间范围⟨r²⟩两项未超过对比模型。MEGNet-simple模型仅使用原子序号和空间距离作为输入，性能与full模型相近，且在13个性质中的8个上优于先前最优模型，表明图网络对输入特征的依赖性较低。对于零点振动能（ZPVE）和带隙（Δε），误差分别为1.40 meV和0.061 eV，略高于化学精度阈值。
在统一自由能模型方面，作者将温度、压力和熵作为全局状态变量，构建了同时预测0 K内能（U0）、室温内能（U）、焓（H）和吉布斯自由能（G）的单一MEGNet模型。该模型对四个目标的总MAE为0.010 eV，与分别训练单个模型的性能相当。此外，模型在100 K和200 K的U预测与DFT结果吻合良好，但在H和G的预测上偏差较大，作者推测这是因为训练数据中仅包含298 K的H和G数据。
在Materials Project晶体数据上，MEGNet在形成能Ef、带隙Eg、体模量KVRH和剪切模量GVRH上均优于SchNet和CGCNN。形成能MAE为0.028 eV atom⁻¹，带隙MAE为0.33 eV，体模量和剪切模量的log10 MAE分别为0.050和0.079。金属/非金属分类的总体准确率为86.9%，ROC曲线下面积为0.926。作者还发现，从形成能模型训练得到的元素嵌入迁移到带隙和弹性模量模型后，可显著加速训练并提升性能。例如，独立训练的Eg模型MAE为0.38 eV，而迁移学习的Eg模型MAE降至0.33 eV。元素嵌入的Pearson相关性热图正确反映了元素周期表中的化学趋势，例如碱金属、碱土金属、卤素、硫属元素、镧系和锕系元素在嵌入空间中表现出组内高相似性。Eu和Yb的嵌入更接近碱土金属而非镧系元素，这与化学直觉和Pettifor结构图一致。增加MEGNet block数量会减弱嵌入之间的对比度，因为原子感知的空间范围扩大，几何环境的影响增强。
此外，作者通过超参数敏感性分析发现，将半径截断从4 Å增加到6 Å会使形成能MAE略微升至0.03 eV atom⁻¹；使用1个或5个MEGNet block时的MAE分别为0.033和0.027 eV atom⁻¹。上述结果表明所采用的4 Å截断和3个block的架构是较为合理的。
五、结论与意义
本文得出的核心结论是：图网络可以作为统一的表示框架，在分子和晶体两类材料体系中实现高精度的多性质预测。MEGNet模型通过引入全局状态变量，能够将具有热力学关联的多个性质整合到一个模型中，从而实现训练数据量的成倍增加和模型复杂度的最小化。这一策略对材料科学中数据稀缺问题具有重要价值。同时，元素嵌入能够编码周期性化学趋势，并且可以从大数据集训练的性质模型迁移到数据量较小的性质模型中，显著改善后者的预测性能。
在科学意义上，该研究提供了一种可组合、模块化的图网络架构，明确展示了全局状态在材料表示中的作用，并提出了统一自由能模型这一物理直观的策略。在应用价值上，MEGNet模型在形成能、带隙、弹性模量等关键材料性质上的预测误差已优于或接近DFT计算误差，展示了在材料高通量筛选和加速材料设计中的巨大潜力。此外，开源代码和数据集的发布有助于研究社区进行基准比较和后续开发。
六、研究亮点
本研究的亮点主要体现在三个方面。第一，MEGNet是少数同时在分子和晶体数据集上进行广泛验证并取得优异性能的图网络模型，证明了图网络作为跨体系统一表示框架的可行性。第二，作者首次将温度、压力和熵等全局状态变量显式纳入图网络，实现了自由能相关性质的多任务统一建模，并在未见温度下对内能进行了合理外推。第三，通过元素嵌入的迁移学习，有效缓解了带隙和弹性模量等数据稀缺性质模型的训练瓶颈，展示了嵌入向量作为可迁移化学知识的潜力。
七、其他价值内容
作者指出，图网络模块化结构允许通过堆叠block扩展感受野，从而根据目标性质选择适当的相互作用范围。不同性质对block数量的需求不同，例如ZPVE和电子空间范围需要5个block，偶极矩需要3个block，这为模型结构选择提供了直观依据。此外，集成学习（ensembling）可进一步降低误差，例如两个独立训练的3-block MEGNet模型的平均预测使形成能MAE从0.028 eV atom⁻¹降至0.024 eV atom⁻¹。这些经验和发现对后续模型开发具有参考价值。