学术报告：GNNFairViz——图神经网络公平性的可视化分析框架
作者及发表信息
本研究由Xinwu Ye（复旦大学）、Jielin Feng（复旦大学）、Erasmo Purificato（欧盟联合研究中心）、Ludovico Boratto（卡利亚里大学）、Michael Kamp（波鸿鲁尔大学）、Zengfeng Huang（复旦大学）和Siming Chen（复旦大学，通讯作者）合作完成。论文《GNNFairViz: Visual Analysis for Graph Neural Network Fairness》发表于IEEE Transactions on Visualization and Computer Graphics期刊，2021年8月第14卷第8期。
学术背景
研究领域与动机
本研究属于图神经网络（Graph Neural Networks, GNNs）与算法公平性（Algorithmic Fairness）的交叉领域。随着GNN在社交网络、金融风控等领域的广泛应用，其潜在的公平性问题日益凸显：GNN可能继承历史数据中对特定敏感群体（如性别、年龄、种族）的偏见，并通过图结构放大这种偏见（称为“结构偏差”）。然而，现有公平性分析工具多针对传统机器学习（如欧几里得数据），无法解决GNN特有的“属性偏差”与“结构偏差”交互问题。
研究目标
团队提出GNNFairViz，一个模型无关的（model-agnostic）可视化分析框架，旨在：
1. 多维度评估公平性：支持多类敏感属性和多分类任务，扩展了公平性指标（如统计均等性SP、机会均等性EOP等）。
2. 诊断偏差来源：从数据视角分析属性偏差（如特征分布不均）和结构偏差（如图连接模式）。
3. 无缝集成开发流程：以Python工具包形式嵌入Jupyter Notebook，支持交互式可视化。
研究流程与方法
1. 偏差计算模块
（1）模型偏差（Model Bias）
- 公平性指标扩展：将二元敏感属性指标（如EOD）推广至多类场景，提出基于标准差和最大差异的度量（如Δstd和Δmax），并严格证明其数学范围（见附录）。
- 偏差贡献分析：通过“反事实推理”量化节点子集的属性或结构对模型偏差的贡献。例如，移除某节点的边后重新计算模型输出，用Jensen-Shannon距离衡量分布差异。
（2）数据偏差（Data Bias）
- 结构偏差检测：
- 稠密子图发现：基于余弦相似度的聚类算法识别高连接子图（密度阈值可调），揭示潜在偏见传播路径。
- 计算图邻居分析：统计节点在消息传递中各跳邻居数量，量化信息聚合的不均衡性。
- 属性偏差检测：
- 对分类属性使用卡方检验，连续属性使用Kruskal-Wallis检验，判断敏感群体间特征分布差异。
2. 可视化交互模块
（1）节点选择视图
- 节点嵌入投影：支持PCA/t-SNE/UMAP降维，颜色编码敏感群体，配合Rangeset技术突出聚类差异。
- 邻居数量分布：直方图展示计算图中节点的邻居数量，反映信息传播权重。
- 稠密子图推荐：散点图标注子图大小，辅助用户定位高偏差区域。
（2）公平性指标视图
- 多指标对比：条形图显示SP、EOP等指标值及理论范围，点击可查看热图细节（如各标签的TPR/FPR）。
（3）诊断视图
- 属性总览图：网格化展示各属性在敏感群体中的偏差（如黄色表示显著差异），并标注其单独贡献（半圆形符号表示贡献方向与强度）。
- 群体连接模式：热图量化不同敏感群体间的连接强度，揭示同质性（homophily）或异质性。
3. 工作流设计
用户通过“选择节点→检查公平性→诊断偏差”的迭代流程分析模型。例如：
1. 在节点嵌入图中框选离群簇，发现其敏感群体分布不均。
2. 查看对应子集的公平性指标升高，进一步分析属性分布（如“逾期记录”在年轻群体中显著偏高）。
3. 通过连接模式热图发现跨群体边削弱了属性偏差，验证结构对公平性的促进作用。
主要结果与逻辑链条
1. 案例一：信用卡违约预测
- 发现：GAT模型对年龄≤25岁的用户预测偏差显著（EOP=0.06）。
- 归因：
- 属性偏差：“逾期记录”贡献52.6%的模型偏差，因其在年轻群体中分布倾斜。
- 结构效应：年轻群体80%的边连接年长群体，导致年长群体属性主导其嵌入，反而缓解了偏差。
- 验证：改用无注意力权重的GCN后，EOP下降37%，证实注意力机制可能削弱结构的公平性促进作用。
2. 案例二：NBA球员薪资预测
- 多属性交叉分析：国籍与年龄组合的敏感群体显示更高偏差（Δmax=0.15）。
- 关键因素：
- 属性：“上场时间（MP）”等4个特征在海外球员中分布差异放大模型偏差。
- 结构：非同质连接（海外球员多与本土球员相连）整体降低偏差，但局部稠密子图（如海外年轻球员群）加剧偏差。
- 干预效果：移除高偏差边并标准化特征后，SP指标改善22%。
结论与价值
科学意义
- 理论贡献：首次系统量化GNN中属性与结构偏差的交互效应，提出“结构可能抑制属性偏差”的新见解。
- 方法论创新：开发首个支持多类敏感属性和动态诊断的GNN公平性分析工具，填补领域空白。
应用价值
- 开发者工具：无缝集成至PyTorch/DGL工作流，支持实时调试。
- 行业指导：揭示GNN架构选择（如GCN vs. GAT）对公平性的影响，为模型设计提供依据。
研究亮点
- 多指标扩展：严格数学推导的多类公平性指标，支持更复杂的现实场景。
- 交互式诊断：通过反事实分析和动态可视化，实现“人机协同”的偏差溯源。
- 通用性验证：在金融（Credit数据集）和社交网络（NBA数据集）中均验证有效性。
其他价值
团队总结了两条通用启示：
1. “压倒效应”：高度不平衡数据集中，少数群体的连接模式对公平性影响显著。
2. 架构敏感性：GCN等简单架构可能比GAT更公平，因其避免注意力权重的偏差放大。
（注：专业术语如homophily首次出现时译为“同质性”，Jensen-Shannon距离等保留英文原名。）