本研究报告介绍了由L. Bonalumi、E. Aymerich、E. Alessi、B. Cannas、A. Fanni、E. Lazzaro、S. Nowak、F. Pisano、G. Sias和C. Sozzi等研究者共同完成的一项关于可解释人工智能（Explainable Artificial Intelligence, XAI）在托卡马克装置破裂预测算法中应用的原创性研究。该研究于2024年5月14日发表在学术期刊《Frontiers in Physics》上。
一、学术背景 这项研究隶属于核聚变与等离子体物理领域，具体聚焦于磁约束聚变装置（托卡马克）中破坏性等离子体事件（破裂）的预测与规避。托卡马克装置中，等离子体破裂是一种在极短时间内导致磁约束失效的灾难性事件，会引发强大的电磁力并可能损坏装置内壁，是聚变反应堆安全稳定运行面临的主要挑战之一。由于其复杂的非线性物理机制，传统建模方法预测破裂存在困难。近年来，深度学习，特别是卷积神经网络（Convolutional Neural Network, CNN），在利用等离子体诊断数据（如温度、密度、辐射剖面）进行破裂预测方面展现出巨大潜力，其预测性能优异。然而，深度学习模型通常被视为“黑箱”，其内部决策逻辑难以理解，这限制了研究人员对模型的信任，也阻碍了从模型预测中获取新的物理见解。因此，本研究旨在将可解释人工智能（XAI）方法应用于一个已训练好的CNN破裂预测器，以揭示该网络在进行破裂分类时依赖了输入数据中的哪些特征，并验证其决策是否与已知的物理机制一致。研究的具体目标是：证明一个未经过针对特定破裂前兆机制（如边缘冷却和温度中空）专门训练的CNN，是否能够隐含地学习并区分这两种不同的破裂演化路径，并通过XAI技术将这种隐含知识可视化。
二、研究流程详述 本研究是一个典型的数据驱动分析工作，其核心流程包括数据准备、神经网络架构回顾、XAI方法应用、结果分析与验证。
1. 研究对象与数据集构建： 研究基于JET托卡马克的实验数据。研究对象是等离子体放电脉冲，研究数据库包含87个脉冲，这些脉冲被分为安全终止和发生破裂两类。特别地，研究聚焦于一类具有明确物理前兆的破裂事件，这些事件可根据其对电子温度剖面的影响分为两类：边缘冷却（Edge Cooling, EC）和温度中空（Temperature Hollowing, TH）。EC表现为等离子体边缘区域的温度崩塌，而TH表现为等离子体轴心区域温度的下降。数据库中，26个破裂脉冲被进一步细分为17个EC事件、2个TH事件以及7个先发生TH后伴随EC的事件（THEC，在分析中被视为TH）。研究使用了一个先前已开发并训练好的CNN模型（来自文献[10]）作为分析对象。该CNN的输入并非原始信号，而是将一维等离子体剖面（来自高分辨率汤姆逊散射的电子温度、电子密度以及来自水平辐射测量仪的辐射剖面）和两个零维信号（内部电感和归一化锁模信号）处理成的二维时空图像。具体而言，每个时间切片（200毫秒窗口）被转换为一个132行（54个温度通道 + 54个密度通道 + 24个辐射通道）x 101列（时间序列）的图像。CNN的任务是判断每个输入图像切片属于“稳定”（安全）还是“不稳定”（破裂前兆）类别。
2. 神经网络架构回顾： 本研究并未训练新的CNN，而是对已有架构进行XAI分析。文中详细描述了该CNN的结构（见图3和表1）。它是一个相对简洁的CNN，包含两个卷积单元（CU）和两个池化层（P）。第一个卷积-池化块（CU1和Pmax）专门在空间维度（垂直方向，对应不同诊断通道）进行滤波，以提取空间特征。第二个卷积-池化块（CU2和Pavg）专门在时间维度（水平方向）进行滤波，以提取时间演化特征。两个零维信号（内部电感和归一化锁模信号）在第一个空间滤波块之后被引入，与处理后的图像特征在时间上同步并拼接，共同输入到后续的全连接层中进行最终分类。这种设计允许网络同时从剖面形态演变和关键全局信号中学习。
3. 可解释性方法应用： 研究采用了两种互补的XAI方法来解释CNN的决策： * 遮挡法（Occlusion）： 这是一种与模型无关的“黑箱”方法。其核心思想是系统地用恒定值块（补丁）遮挡输入图像的不同区域，然后观察CNN输出（破裂概率）的变化。如果遮挡某个区域导致输出发生显著波动（例如，从高破裂概率变为低概率），则表明该区域对网络的分类决策至关重要。研究定义了波动张量δ(i,j)，它量化了遮挡每个像素位置对输出影响的平均程度，从而生成一个“热力图”，直观显示输入中哪些部分最重要。该方法涉及补丁大小、填充值、移动步长等自由参数。 * 显著性图（Saliency Map）： 这是一种基于模型内部梯度的“白箱”方法。它通过计算CNN输出相对于其某一中间层（此处为第二个卷积层输出）激活值的梯度，来生成显著性图。具体而言，对于每个输入图像，计算输出类别分数相对于该层每个神经元激活的偏导数，并通过反向传播和ReLU过滤得到梯度矩阵gαβ。梯度值大的区域意味着输入特征的微小变化会对输出产生大的影响，因此这些区域被认为是网络做出决策的关键依据。为了处理整个时间序列，研究对包含每个时间点的所有滑动窗口切片产生的显著性图进行了平均，最终得到一个与输入时间维度匹配的显著性热力图。
4. 分析流程： 研究首先对整个输入（包含所有诊断信号）应用了两种XAI方法，以全局了解CNN的注意力分布。然后，为了验证CNN是否能区分EC和TH这两种特定的物理前兆，研究进行了针对性的局部分析。具体做法是：对于每个发生EC或TH的破裂脉冲，确定物理事件发生的时间（T_EC/TH）。然后，提取该时间点附近（约200毫秒窗口内）的显著性图，并将所有EC事件和所有TH事件的显著性图分别进行平均。通过比较平均后的热力图在温度剖面空间分布（内部区域r/a ∈ (0, 0.5) 和外部区域r/a ∈ (0.5, 1)）上的差异，来检验CNN的关注点是否随物理机制的不同而系统性偏移。此外，研究还计算了所有安全脉冲在稳定阶段的平均显著性图作为对比基线。
三、主要结果 1. 全局注意力模式： 两种XAI方法（遮挡法和显著性图）得出了基本一致的核心发现： * 辐射信号最关键： CNN在进行破裂预测时，最依赖的输入特征是来自水平辐射测量仪的辐射剖面信号。热力图中辐射通道区域 consistently 显示出最高的灵敏度或梯度值。 * 温度剖面中心区域次重要： 电子温度剖面的中心区域（对应等离子体轴心）也被识别为对分类有重要贡献的特征。 * 零维信号的时序角色： 内部电感和归一化锁模信号（0-D信号）的重要性主要体现在接近网络触发“警报”（输出从不稳定变为稳定或反之）的时间点附近，在稳定阶段其重要性较低。 * 密度信号作用较小： 电子密度剖面对CNN决策的贡献相对次要。 * 方法间差异： 遮挡法显示出CNN对输入图像右侧（即时间上更靠近“当前”时刻的部分）有更强的敏感性，这符合网络基于近期时序信息做预测的直觉。而显著性图方法则显示出即使在辐射信号本身不显著时，其对应的梯度也可能很高，这可能是因为网络在训练中学会了赋予辐射特征更高的权重，导致梯度回传时在该区域被放大。
2. 对特定物理前兆（EC/TH）的识别能力： 这是本研究最重要的发现。通过对EC和TH事件附近的显著性图进行平均和对比分析，结果显示： * 空间敏感性偏移： 在EC事件发生前后，平均显著性图在温度剖面的外部区域（边缘）显示出明显的梯度峰值（图9左）。而在TH事件发生前后，梯度峰值主要出现在温度剖面的内部区域（轴心），外部区域的梯度平均值接近于零（图9右，图11）。 * 时间关联性： 梯度峰值的出现时间与物理定义的EC/TH事件发生时间（T_EC/TH）高度相关，分布峰值集中在T_EC/TH附近，并且显示出网络倾向于在物理事件发生前就出现梯度上升的趋势（图10），这与CNN的预警功能一致。 * 物理一致性验证： 这一结果强有力地表明，尽管在训练阶段没有被告知EC和TH这些具体的物理概念，但CNN已经隐含地学会了将温度剖面不同区域（边缘 vs. 轴心）的异常变化模式与最终的破裂结果关联起来。网络的“注意力”机制能够根据不同的破裂前兆物理，自适应地聚焦于温度剖面的相应区域。
3. 安全脉冲的对比： 对安全脉冲稳定阶段的分析显示，其平均显著性图没有出现类似EC/TH事件的局部梯度峰值，而是表现为辐射区域和零维信号区域相对连续、均匀的梯度分布（图12）。这表明在网络判断为“安全”的阶段，它并未锁定某个特定的、强烈的异常模式，而是保持一种广泛的监控状态。
四、结论 本研究的结论是，可解释人工智能（XAI）技术成功应用于托卡马克破裂预测的CNN模型，有效揭示了其内部决策逻辑。核心发现是，CNN不仅能够高精度预测破裂，而且在决策过程中展现出了与物理理解一致的行为：它能够区分以边缘冷却和温度中空为前兆的不同破裂路径，其“注意力”会依据不同的物理机制，系统性地聚焦于温度剖面的不同空间区域（外部或内部）。这极大地增强了我们对这个深度学习破裂预测器的信任，因为它表明网络并非学习无关的虚假关联，而是捕捉到了与物理模型相符的因果特征。这项工作为将此类“黑箱”模型集成到未来的破裂规避系统中提供了可信度支持。此外，XAI分析本身也可能成为一种发现工具，通过解读网络认为重要的特征模式，有可能揭示出尚未被充分认识的、与破裂相关的新物理现象或数据模式。
五、研究亮点 1. 创新性地将XAI引入核聚变领域： 本研究是将可解释人工智能方法系统应用于托卡马克破裂预测这一高风险、高复杂性科学问题的先驱性工作之一，架起了深度学习模型与等离子体物理理解之间的桥梁。 2. 揭示了CNN的隐含物理学习能力： 研究提供了令人信服的证据，表明一个未经过特定物理机制标注训练的CNN，能够通过数据驱动的方式，自发地学习并区分不同的破裂物理前兆（EC和TH），并将其决策依据定位到相关的物理量（温度剖面）的特定空间区域。 3. 方法学的交叉与验证： 研究同时采用了遮挡法（模型无关）和显著性图（模型相关）两种不同的XAI技术，并对结果进行了交叉验证和对比讨论，增强了结论的可靠性，并深入分析了不同方法的特点和潜在偏差。 4. 明确的工程与科学价值： 研究成果直接提升了AI破裂预测模型在真实聚变装置控制系统中部署的可行性和可信度。同时，它开辟了一条通过分析AI模型来增进对复杂等离子体物理现象理解的新途径。
六、其他有价值内容 研究还讨论了XAI分析在破裂预测中的三大优势：1) 通过验证模型决策与物理模型的一致性来建立信任；2) 可能指示哪些信号对预测最有用，从而优化CNN性能；3) 有可能发现传统物理分析未能识别的新数据模式，为发展新物理模型提供线索。此外，文中对CNN架构的设计细节（如空间与时间维度的分离处理、池化类型的选择、0-D信号的融合方式）进行了清晰阐述，为后续在聚变领域设计类似的时空特征提取网络提供了参考。研究也坦诚指出了所用XAI方法的局限性，例如遮挡法的参数依赖性和显著性图可能存在的梯度偏差问题，体现了研究的严谨性。