类型a
主要作者与机构及发表信息
该研究的主要作者包括Maya Bechler-Speicher、Amir Globerson和Ran Gilad-Bachrach，他们分别隶属于特拉维夫大学的Blavatnik计算机科学学院以及生物医学工程系和Edmond J. Safra生物信息学中心。这项研究计划在2024年的第38届神经信息处理系统会议（NeurIPS 2024）上发表。
学术背景
该研究属于人工智能领域中的图神经网络（Graph Neural Networks, GNNs）方向。近年来，GNNs已成为学习图结构数据的主流方法，但大多数GNN模型作为“黑箱”运行，缺乏透明性。这种不透明性在高风险场景中尤为关键，例如刑事司法、医疗保健和金融等领域，因为这些领域的决策可能对个人生活产生深远影响。因此，开发一种既具有透明性又保持高准确性的模型成为亟需解决的问题。本研究旨在通过扩展广义加性模型（Generalized Additive Models, GAMs）到图数据，提出一种名为图神经加性网络（Graph Neural Additive Networks, GNAN）的新型可解释模型。GNAN不仅提供了全局和局部解释能力，还通过直接可视化模型结构实现了人类完全理解的可能性。
研究工作流程
该研究的工作流程分为以下几个步骤：
定义问题与目标
研究首先明确了其目标是开发一个能够处理图数据的可解释模型，并将其应用于节点分类任务和图分类任务。研究对象包括多个公开数据集，如Cora、PubMed、Mutagenicity等。
模型设计
GNAN的核心思想是将GAMs的可解释性扩展到图数据。具体而言，GNAN为每个特征学习一个形状函数（shape function），并通过距离函数（distance function）调节节点之间的相互影响。公式化地，对于节点i的k-th特征，其表示为：
[ [h_i]k = \sum{j=1}^n \frac{1}{#dist_i(j, i)} \cdot \rho\left(\frac{1}{1 + dist(j, i)}\right) \cdot f_k([x_j]_k) ]
其中，(\rho) 是距离函数，(f_k) 是特征形状函数，(#dist_i(j, i)) 表示节点i与节点j之间的距离分布。
实验设置
在实验部分，研究选择了多个基准数据集进行评估，包括节点分类任务（如Cora、PubMed）、图分类任务（如Mutagenicity、Proteins）以及长程预测任务（如QM9）。所有实验均使用预定义的数据划分和协议，确保结果的公平性和可比性。
模型训练与测试
GNAN使用ReLU激活函数和多层感知机（MLP）实现形状函数和距离函数。模型通过Adam优化器进行训练，超参数包括学习率、隐藏层数量和dropout率等。研究还对比了GNAN与其他常用GNN架构（如GraphConv、GraphSAGE、GIN等）的性能。
数据分析与可视化
研究通过热图（heatmap）和形状函数图展示了GNAN的可解释性。例如，在Mutagenicity数据集中，研究通过热图揭示了特定原子及其距离对分子毒性的贡献。此外，研究还通过计算每个节点的重要性来提供局部解释。
主要结果
1. 可解释性
GNAN通过形状函数和距离函数的可视化，提供了模型的全局和局部解释能力。例如，在Mutagenicity数据集中，研究发现碳环和NO2基团对分子毒性有显著影响，这与现有文献一致。
性能表现
在多个基准数据集上的实验表明，GNAN的性能与常用的“黑箱”GNN模型相当。例如，在PubMed数据集中，GNAN的准确率达到86.9%，优于GraphConv和GraphSAGE。此外，在长程预测任务（如QM9）中，GNAN的表现优于其他基线模型。
调试能力
GNAN的可解释性使其能够用于模型调试。例如，在Mutagenicity数据集中，用户可以通过可视化发现模型是否正确捕捉了某些化学基团的作用，从而避免潜在的偏差或错误。
结论与意义
该研究提出了一种新型的图神经加性网络（GNAN），它结合了GAMs的可解释性和GNNs的强大表达能力。GNAN不仅在多个基准数据集上表现出与“黑箱”GNN模型相当的性能，还通过形状函数和距离函数的可视化提供了全局和局部解释能力。这一研究成果在高风险应用领域（如医疗诊断和金融决策）具有重要意义，因为它能够在保证透明性的同时维持高准确性。
研究亮点
1. 创新性模型设计
GNAN首次将GAMs扩展到图数据，解决了传统GNN模型的不透明性问题。
强大的可解释性
GNAN通过形状函数和距离函数的可视化，提供了清晰的全局和局部解释能力。
高性能表现
尽管GNAN的容量有限，但其性能与复杂的“黑箱”GNN模型相当，证明了某些实际图问题可能比预期更简单。
调试与验证能力
GNAN的可解释性使其能够用于模型调试，帮助用户识别潜在的偏差或错误。
其他有价值内容
研究还探讨了GNAN的多种扩展可能性，例如通过样条函数（splines）生成更平滑的形状函数，或者为每个特征学习独立的距离函数以提高模型容量。此外，研究强调了GNAN在生物网络数据集（如蛋白质相互作用）中的潜在应用价值。