本文属于类型a,即单一原创研究论文。以下是根据该文档内容撰写的学术报告。
本文档所报道的研究由来自美国加州大学圣迭戈分校(University of California San Diego)纳米工程系的Chi Chen、Weike Ye、Yunxing Zuo、Chen Zheng以及Shyue Ping Ong共同完成,通讯作者为Shyue Ping Ong。该研究于2019年4月10日发表在期刊Chemistry of Materials上,论文题目为“Graph Networks as a Universal Machine Learning Framework for Molecules and Crystals”。该研究提出并开发了一种通用的材料图网络模型,即MEGNet模型,用于分子和晶体材料的性质预测,并展示了其在多个性质预测任务中优于已有机器学习模型的表现。
在学术背景方面,机器学习已经成为材料科学研究中的重要工具,尤其是在高通量电子结构计算和组合实验产生大量材料数据的背景下,发展快速且准确的代理模型用于性质预测具有重要意义。对于分子体系,基于图的表示方法已被广泛应用,并取得了较好的预测效果;而对于晶体体系,则需要考虑晶格的周期性和空间群对称性。已有模型如SchNet和晶体图卷积神经网络(CGCNN)分别在分子和晶体性质预测中取得了进展,但现有模型仍存在若干局限:大多数模型只能适用于分子或晶体中的一类,缺乏对全局状态变量(如温度、压力)的描述,且部分性质的数据量有限,制约了模型性能的提升。因此,该研究旨在提出一种统一的图网络框架,能够同时处理分子和晶体,并通过引入全局状态属性来解决状态依赖性质预测的问题,同时利用迁移学习策略应对数据稀缺问题。
在研究方法和工作流程方面,该研究首先构建了MEGNet模型的形式化框架。模型基于图网络理论,将体系表示为原子属性集合v、键属性集合e和全局状态属性向量u。图网络模块通过三个更新步骤实现信息流动:首先更新键属性,利用键自身属性、相连原子属性以及全局状态属性;然后更新原子属性,利用原子自身属性、与其相连的键属性的平均值以及全局状态属性;最后更新全局状态属性,利用所有原子和键属性的平均值。更新函数采用具有两个隐藏层的多层感知机,激活函数为修正的softplus函数。为了提高模型灵活性和训练深度,研究在每个MEGNet模块前后添加了两个全连接层,并引入残差连接,形成MEGNet块。多个MEGNet块可以堆叠以增强模型表达能力,最终通过set2set读出操作将图表示转化为标量或向量输出。
在输入属性方面,对于分子体系,原子属性包括原子类型、手性、环大小、杂化方式、电子受体/供体以及芳香性等;键属性包括键类型、是否在同一环内、图距离以及基于高斯基展开的距离;全局状态属性包括平均原子量和平均键数。对于晶体体系,原子属性仅为原子序数,键属性为基于高斯基展开的空间距离,全局状态属性为两个占位零值。分子数据集为QM9数据集,包含130 462个有机小分子的密度泛函理论计算结果;晶体数据集来自Materials Project,包含69 640个晶体的形成能、带隙及弹性模量等数据。模型训练使用Adam优化器,初始学习率为0.001,后期降低为0.0001。数据集按一定比例划分为训练集、验证集和测试集,并通过验证误差监控实现早停。模型在NVIDIA GTX 1080Ti GPU上训练,分子模型平均每轮次耗时80秒,晶体模型为110秒。
在主要结果方面,研究首先评估了MEGNet模型在QM9分子数据集上13种性质的预测性能。结果显示,使用全部输入属性的MEGNet-full模型在13个性质中的11个上优于SchNet和MPNN enn-s2s模型,仅在偶极矩和电子空间范围的预测上略逊于SchNet。其中,最高占据分子轨道(HOMO)和最低未占据分子轨道(LUMO)的平均绝对误差分别为0.038 eV和0.031 eV,内能、焓和吉布斯自由能的平均绝对误差在0.009至0.010 eV之间,均低于化学精度阈值。研究还发现,仅使用原子序数和空间距离作为输入的MEGNet-simple模型也能达到与完整模型相近的性能,表明图网络结构本身具有较强的表示能力。
其次,研究提出了一种统一的分子自由能模型,通过将温度、压力和熵作为全局状态属性输入,将0 K内能、室温内能、焓和吉布斯自由能四个目标整合到一个模型中。该统一模型的平均绝对误差为0.010 eV,与分别训练的模型性能相当。此外,统一模型能够在一定程度上预测训练数据中未包含的100 K和200 K温度下的内能,但对焓和吉布斯自由能的外推预测偏差较大,研究者推测这是由于训练数据中缺乏这些温度下的焓和自由能数据所致。
在晶体性质预测方面,MEGNet模型在形成能、带隙、体模量和剪切模量预测上均优于SchNet和CGCNN模型。形成能的平均绝对误差为0.028 eV/atom,带隙的平均绝对误差为0.33 eV,体模量和剪切模量的对数平均绝对误差分别为0.050和0.079。金属/非金属分类器的整体准确率为86.9%,受试者工作特征曲线下面积为0.926。此外,研究还发现,从形成能模型迁移元素嵌入到带隙和弹性模量模型,能够显著加速训练并提升模型性能。
在讨论部分,研究强调了图网络作为统一框架的通用性和可组合性。通过堆叠不同数量的MEGNet块,可以捕获不同空间范围内的相互作用。例如,多数QM9性质仅需两个MEGNet块即可达到化学精度,但零点振动能和电子空间范围需要五个块,偶极矩需要三个块,这表明这些性质依赖于更长程的相互作用。此外,研究展示了元素嵌入的可解释性。从形成能模型中提取的元素嵌入能够正确反映元素周期表中的化学趋势,例如碱金属、卤素、镧系元素等族内相似性较高,并且铕和镱的嵌入更接近碱土金属元素,这与已知的化学直觉一致。这些嵌入可以用于迁移学习,改善数据量较少的性质模型的性能。
该研究的结论是,MEGNet模型能够在分子和晶体两大类材料中实现广泛的高性能性质预测。图网络为原子和键的表示提供了自然框架,其顺序更新机制支持原子、键和全局状态之间的信息流动。研究通过引入全局状态输入和元素嵌入的迁移学习,扩展了模型对状态依赖性质和数据受限性质的适用性。这一工作为化学和材料科学中的机器学习应用提供了通用且稳健的基础,有望加速材料发现进程。
该研究的亮点包括:提出了适用于分子和晶体的统一图网络框架MEGNet;通过引入全局状态变量实现了多相关性质的统一预测;展示了元素嵌入的可解释性及其在迁移学习中的应用;在QM9和Materials Project两个大规模数据集上均取得了优于先前模型的结果。这些成果对于推动机器学习在材料科学中的实际应用具有重要的科学价值和工程意义。