由Austin C. Houston、Sumner B. Harris、Hao Wang、Yu-Chuan Lin、David B. Geohegan、Kai Xiao和Gerd Duscher组成的研究团队，在2025年6月2日于《Nano Letters》期刊上发表了题为“Atom Identification in Bilayer Moiré Materials with GOMB-Net”的研究论文。该研究针对扫描透射电子显微镜（Scanning Transmission Electron Microscopy, STEM）分析二维范德华（van der Waals）双层扭转异质结时面临的挑战，开发了一种名为GOMB-Net的深度学习方法，首次实现了在复杂莫尔图案中逐层、逐原子种类的高精度识别与定位，为探索莫尔材料的原子尺度物理提供了强大新工具。
本研究隶属于凝聚态物理、材料科学和电子显微学的交叉领域。过去十年，扭转范德华双层结构因其可调控的奇特性质（如魔角石墨烯中的超导性）和作为研究强关联物理的平台而备受关注。然而，当两层二维材料以微小角度堆叠时，会产生周期性的莫尔超晶格，这种图案会调制材料的电子和拓扑性质。高角环形暗场扫描透射电子显微镜（HAADF-STEM）是表征原子结构的关键技术，其成像衬度（Z-衬度）大致与原子序数的平方成正比，可用于识别原子种类和缺陷。然而，在扭转双层中，由于上下两层原子投影位置的不同程度重叠，莫尔干涉会引入衬度变化，使得标准的语义分割模型（如基于U-Net的AtomAI和AtomSegNet）难以可靠地区分来自不同层的原子，也无法有效识别掺杂原子。尽管傅里叶滤波可以估算重复的原子晶格，但会丢失局部非均匀性和原子种类的信息。而多层切片叠层衍射术（multislice ptychography）虽然能识别原子，但计算密集、需要昂贵设备和专门知识。因此，开发一种能够解析莫尔图案、实现原子级逐层识别的方法，对于理解局部原子结构（如应变、缺陷分布）如何影响莫尔材料的性能至关重要。本研究的核心目标即是开发一种深度学习方法，从HAADF-STEM图像中解卷积莫尔图案，精确识别双层异质结中每一层原子的坐标和种类，并将其应用于实际材料体系，揭示掺杂原子的分布规律。
本研究包含三个主要流程：GOMB-Net深度学习模型的开发与训练、在扭转双层石墨烯体系中的验证，以及在更复杂的扭转WS₂-WS₂(₁₋ₓ)Se₂ₓ Janus异质结中的应用分析。
第一流程：GOMB-Net模型的开发与训练。 研究团队提出了一种新型深度学习模型架构，称为GOMB-Net，意为“采用分组组合损失函数的多分支U-Net”。其创新性体现在两方面。首先，在模型架构上，采用了多分支解码器U-Net设计。与标准U-Net单一解码器输出所有类别预测不同，GOMB-Net在编码器-瓶颈层之后使用多个独立的解码器分支。在研究测试的双层体系中，使用了两个解码器，分别负责分割出顶层和底层的原子。这种设计强制网络学习分离层间信息。其次，在损失函数上，开发了一种物理信息启发的“分组组合损失函数”（Gomb-loss）。该损失函数在训练时忽略层的顺序（因为在HAADF-STEM成像中，哪层在上对图像形成没有物理影响），专注于将原子正确地分类到各个层中。它通过计算分组输出和平均倒数（类似调和平均数）来优先考虑层间一致性，并考虑多种堆叠顺序场景。模型的训练数据完全基于模拟生成的HAADF-STEM图像。研究团队针对目标体系（如扭转双层石墨烯、扭转WS₂-WS₂(₁₋ₓ)Se₂ₓ）模拟了大量包含不同堆叠角度、原子位置扰动（采用冻结声子模型引入热振动导致的原子位置展宽）以及掺杂情况的原子分辨率图像作为训练集和测试集。这种方法确保了模型性能高度依赖于模拟数据的质量和与真实实验数据的相似度。模型使用现代个人电脑即可在几分钟内完成训练，并能在毫秒级别进行预测，适合实时分析和自动化STEM实验。
第二流程：在扭转双层石墨烯中的验证。 研究团队首先将GOMB-Net应用于一个相对简单的模型系统——扭转双层石墨烯。他们使用了一个模拟的11.1°扭转双层石墨烯HAADF-STEM图像作为测试输入。为展示GOMB-Net核心技术的必要性，他们对比了四种网络的性能：(i) 使用Dice损失函数的标准U-Net，(ii) 使用Gomb-loss的U-Net，(iii) 使用Dice损失函数的双解码器U-Net，以及(iv) 结合了Gomb-loss和双解码器架构的GOMB-Net。结果显示，标准U-Net主要基于像素亮度分类，引入Gomb-loss能改进原子定位，但两者对上下两层的预测几乎相同。而GOMB-Net则成功实现了分支特化，清晰地将原子按层分离。在包含800张模拟图像的测试集上评估，GOMB-Net取得了0.98的像素精度和0.74的平均交并比（IoU），远优于其他U-Net变体（最高精度0.86，最高IoU 0.39）。这表明Gomb-loss与多分支架构的结合是实现精确逐层分割的关键。随后，研究团队将预训练的GOMB-Net应用于一张实验获得的~26°扭转双层石墨烯HAADF-STEM图像。模型成功输出了两层碳原子的概率图，通过设定阈值二值化后，利用斑点查找和质心计算得到了亚像素精度的原子坐标。为验证预测准确性，他们计算了所有识别原子间的C-C键距分布，平均值为1.39 Å，半高宽为0.12 Å，与已知的石墨烯键长1.42 Å以及从同一张实验图像的傅里叶变换测得的1.41 ± 0.04 Å高度吻合，误差在实验不确定度范围内。此外，通过对测试集的分析，模型预测的原子位置平均误差为0.13 ± 0.04 Å，再现了训练数据中通过冻结声子模型引入的位置不确定性分布。这些结果强有力地证明，GOMB-Net能够有效解卷积莫尔图案，精确识别双层石墨烯中每层原子的位置。
第三流程：在扭转WS₂-WS₂(₁₋ₓ)Se₂ₓ Janus异质结中的应用与分析。 为展示GOMB-Net处理更复杂、更具科学意义体系的能力，研究团队将其应用于一个结合了扭转角和晶格常数差异的体系：通过脉冲激光沉积（PLD）合成的18°扭转WS₂-WS₂(₁₋ₓ)Se₂ₓ Janus过渡金属硫族化合物异质结。在此体系中，硒（Se）原子选择性地取代了暴露于PLD等离子体羽流的最外层硫（S）位点，形成了一种“部分Janus”合金。该体系的原子识别任务比石墨烯复杂得多，需要模型区分类别从2类（两层碳）增加到6类：两层的钨（W）原子、S-S柱和Se-S柱。GOMB-Net在此任务上表现出色。将实验HAADF-STEM图像输入训练好的模型后，模型输出了各层的原子位置和种类。利用这些预测结果，研究团队成功重建了模拟HAADF-STEM图像，该重建图像与原始实验图像高度吻合，直观验证了网络在实验数据上的可靠性。通过对六个区域的统计分析，他们发现98%的Se原子都位于暴露于Se羽流的顶层，这与先前在单层WS₂中的观察结果一致。基于原子坐标，他们进一步测量了各层的晶格常数和化学计量比（x），发现晶格常数随Se含量（x）增加而线性增加，符合Vegard定律，这从物理上证实了模型预测的合理性。
接下来，研究团队利用GOMB-Net的预测结果，深入探究了一个关键科学问题：莫尔图案引起的局部能量或电子调制是否会影响Se原子的置换位点偏好？他们通过计算序参量向量，绘制了局部堆叠顺序图（莫尔地图），该图量化了每个像素位置处两层原子间的相对位移。然后，将每个预测到的Se-S柱位置与其最近的莫尔地图值相关联。通过对超过130万个莫尔位点和333个Se位点的分布进行核密度估计和统计分析，他们发现Se原子的分布与莫尔位点的总体分布没有显著差异。卡方检验的p值为0.585，无法拒绝Se原子是随机占据硫位点的零假设。这一结果出乎意料，因为研究假设在堆叠更整齐的区域（如AA或AB堆垛处），Se原子植入的能垒可能不同。对此有两种可能的解释：一是莫尔图案导致的植入能垒差异与入射Se羽流的能量（约8.5 eV/原子）相比太小，不足以产生偏好；二是Se原子在植入后发生了随机扩散，尤其是在高温下植入过程会产生点缺陷，可能促进了扩散。无论哪种情况，最终结果都表明Se原子在莫尔晶格上没有表现出占据偏好。此外，模型还预测了约2%的Se原子出现在底层，考虑到模型在只有单层掺杂的模拟图像上出现假阳性的错误率约为0.5%，这部分Se原子中可能既有真实穿透顶层的掺杂，也有少量误判。
本研究的主要结论是，研究团队成功开发了GOMB-Net深度学习模型，实现了从HAADF-STEM图像中对扭转范德华双层材料进行原子位置、种类和层别的精确识别。该方法的核心创新在于结合了多分支解码器架构和物理启发的分组组合损失函数。应用表明，该方法不仅能高精度解析扭转双层石墨烯的原子结构，还能处理像Janus TMD合金这样复杂的多原子种类体系。对WS₂-WS₂(₁₋ₓ)Se₂ₓ体系的分析首次揭示，在所使用的合成条件下，Se原子在莫尔晶格上的置换是随机的，不受局部堆叠顺序调制的影响。这项研究为在以往无法实现的材料体系中（即具有复杂莫尔图案的双层异质结）进行原子识别铺平了道路，开启了探索之前无法触及的材料物理的新视野。
本研究的价值与意义体现在多个层面。在科学价值上，它提供了一种强大的新分析工具，使得研究人员能够直接观测和量化莫尔材料中的原子级结构细节，如层间缺陷分布、掺杂原子位置与局部应变、堆垛顺序的关联，这对于理解莫尔工程对材料电子、光学和催化性质的影响至关重要。在方法论上，GOMB-Net将深度学习在材料科学中的应用推向了一个新高度，通过引入物理先验知识（层顺序不变性）来设计损失函数，提高了模型在复杂场景下的泛化能力和准确性。其代码开源且模块化设计，便于其他科学家针对不同的莫尔材料体系进行适配和扩展，甚至可探索应用于三层或更多层的体系。在应用价值上，模型训练和预测速度快，对计算资源要求不高，使得先进的莫尔材料分析变得广泛可及，非常适合于自动化或自主STEM实验中的实时原子识别与分析。
本研究的亮点突出。首先，重要的科学发现：首次在原子尺度上明确了Janus TMD双层异质结中Se掺杂原子的分布与莫尔图案无关，这一发现增进了对低能离子植入和合金化过程机理的理解。其次，方法学上的高度新颖性：GOMB-Net模型是首个专门为解决莫尔图案导致的原子识别困难而设计的深度学习工具，其“分组组合损失函数”和“多分支解码器”是关键创新点，有效解决了传统分割模型在莫尔体系中的失效问题。最后，研究对象的特殊性与复杂性：研究不仅验证了模型在经典体系（扭转双层石墨烯）上的性能，更将其成功应用于包含晶格失配、化学组分梯度和Janus不对称性的复杂TMD异质结，展示了方法的强大适应性和解决实际科学问题的能力。
此外，本研究还包含一些有价值的补充信息。例如，作者详细探讨了模型性能的局限性，指出其高度依赖于训练模拟数据与真实实验数据的相似性，并为未来应用于其他复杂结构（如横向晶界、低信噪比图像）提供了训练数据构建的指导思路。研究中使用的模拟方法（如冻结声子模型）和验证手段（如键长分布统计、重建图像对比）也为相关领域的研究者提供了严谨的范例。论文支持信息和公开的代码、数据进一步增强了研究的可重复性和可推广性。