本文是一项名为“通过重构实现高效的自我监督异质图表示学习”的原创性学术研究成果。研究论文发表于期刊“Information Fusion”，卷号为117，出版年份为2025年，文章编号为102846。该研究由来自海南大学、电子科技大学、广西科学院以及同济大学的科研人员Yujie Mo、Heng Tao Shen 和 Xiaofeng Zhu共同完成，其中Xiaofeng Zhu为通讯作者。
本研究的核心领域是图表示学习（Graph Representation Learning），具体聚焦于异质图表示学习（Heterogeneous Graph Representation Learning， HGRL）。异质图能够建模真实世界中不同类型实体（如学术网络中的论文、作者、主题）及其之间的复杂关系，是一种强大的数据结构。然而，异质图中蕴含的丰富语义信息也带来了表示学习的挑战。近年来，利用元路径（Meta-path）从不同视角提取结构信息，并结合自我监督学习（Self-Supervised Learning）来避免对大量标注数据的依赖，已成为HGRL的主流范式。
尽管现有方法取得了显著进展，但本研究指出其仍面临两个关键问题：（1）计算效率与维度崩溃问题：大多数基于对比学习（Contrastive Learning）的方法，无论是视图内还是视图间对比，都依赖大量负样本来捕获不同元路径视图之间的一致性。这不仅导致了高昂的计算成本，且仅能避免“完全崩溃”（即所有表示坍缩为单个点），但仍可能存在“维度冗余”，即有效信息仅占据表示空间的一部分维度，降低了下游任务的辨别能力。（2）忽略视图内互补性信息问题：现有方法过度强调不同视图间的一致性，而忽视了每个视图自身特有的、对下游任务可能至关重要的互补性信息。这可能导致学到的节点表示过于同质化，丢失了任务相关的关键特征。
为解决上述问题，本研究旨在提出一个新颖的、高效的自我监督异质图表示学习框架，该框架的核心目标是：在避免维度冗余和减少计算开销的同时，有效地捕获不同元路径视图之间的一致性，并保持每个视图内部的互补性。
本研究提出的框架被命名为ESHG，其工作流程高度系统化，主要包含以下几个核心步骤：
1. 构建元路径视图与初始表示： 首先，给定一个异质图（例如包含论文、作者、主题的学术网络），研究依据不同的元路径（如“论文-作者-论文”和“论文-主题-论文”）构建出多个基于元路径的视图。这些视图共享节点特征，但拥有各自的邻接结构。随后，对每个视图，采用标准的图卷积网络（Graph Convolutional Network， GCN）作为编码器，生成初始的节点表示。
2. 一致性提取与维度冗余降低（核心步骤一）： 这是研究解决第一个挑战（效率与维度冗余）的核心环节。具体分为两个并行的损失函数设计： * 相关损失：该损失旨在高效捕获不同视图节点表示之间的一致性。其计算方式是对不同视图对应节点的表示向量进行跨视图维度对齐，最大化对应维度之间的相关性。这是一种无需依赖负样本的设计，避免了对比学习带来的高昂计算成本。 * 去相关损失：该损失旨在防止网络因相关损失而陷入维度冗余。其核心思想是，在每个视图内部，对节点表示的不同维度进行去相关化处理。具体做法是计算每个视图内节点表示的协方差矩阵，并通过损失函数强制该矩阵趋近于单位矩阵。这意味着，一方面每个维度自身的方差应保持稳定，另一方面不同维度之间的协方差应趋近于零，从而确保所有维度都得到充分利用，并承载有效信息。
3. 互补性保持（核心步骤二）： 这是研究解决第二个挑战（忽略互补性）的核心环节。通过设计重构损失来保持每个视图内部的独特信息。与研究常见的重构图结构不同，该方法设计了更高效、更关注局部信息的重构目标： * 节点特征重构：通过一个解码器，从学到的节点表示重构原始的节点特征。 * 邻居特征重构：进一步要求重构出的节点特征不仅要接近自身原始特征，还要接近其在该视图内的一阶邻居的平均特征。 这种设计迫使编码器保留节点自身及其局部邻域的特征信息，这些信息很可能包含了对下游任务有贡献的、视图特有的互补性内容。
4. 损失函数整合与训练： 将上述三个损失函数——相关损失、去相关损失和重构损失——通过超参数进行加权求和，构成模型的最终优化目标。在训练过程中，模型同时学习捕获视图间一致性、减少视图内维度冗余、并保留视图内互补性。训练完成后，将来自不同视图的最终节点表示进行拼接，得到融合的节点表示，用于下游任务。
5. 理论验证： 除了算法设计，研究还从信息论角度提供了坚实的理论支撑。研究证明了：（a）所提出的相关损失和去相关损失联合优化，等价于最大化不同视图节点表示之间的互信息，这与主流对比学习方法的理论目标一致，但实现方式更高效。（b）所提出的重构损失，等价于最大化节点表示与原始图数据之间的互信息。（c）综合（a）和（b），本研究学到的节点表示，相比仅最大化视图间互信息的对比学习方法，蕴含了更多与下游任务相关的信息，这从理论上解释了所提方法性能优越的原因。
6. 实验验证： 研究在四个公开的异质图数据集（ACM, IMDB, DBLP, Amazon）上进行了全面的实验评估，涵盖了三个典型的下游任务：节点分类、节点聚类和相似性搜索。 * 数据集处理：遵循先前研究的标准数据划分方式。 * 对比方法：与多达15种基准方法进行了比较，包括传统的同质/异质图方法（如DeepWalk， GCN， HAN），以及前沿的自我监督HGRL方法（如DMGI， HeCo， STENCIL， GTC等）。 * 评估指标：针对不同任务，分别采用宏/微F1值、准确率/归一化互信息、Top-K相似度等指标。 * 实验内容：除了主要的下游任务性能比较，还包括消融实验（验证各损失组件的有效性）、视图贡献度分析、融合机制比较、参数敏感性分析、以及通过可视化验证维度去相关和表示分布的效果。 * 效率分析：专门测量了所有方法的训练时间，验证所提方法在效率上的优势。
实验结果表明，所提出的ESHG框架在多项评估中均展现出卓越的性能。 * 有效性：在节点分类任务上，ESHG在四个数据集的所有对比方法中取得了最优或次优的性能。例如，在ACM、DBLP和Amazon数据集上，其Macro-F1和Micro-F1分数均领先于最强的对比方法如GTC。在节点聚类和相似性搜索等无监督任务上，ESHG同样表现最佳。这些结果充分证明了该框架能够学习到更具判别力和信息量的节点表示。 * 效率：训练时间对比显示，ESHG在所有数据集上的训练速度显著快于其他基于对比学习的自我监督HGRL方法。例如，相比最快的对比方法GTC，ESHG平均获得了3倍的加速比。这直接验证了其通过相关损失和去相关损失替代负样本密集型对比学习所带来的效率提升。 * 消融实验的发现： * 移除任何一个损失组件（相关、去相关或重构）都会导致模型性能显著下降，证实了三者都是必要的。 * 仅使用重构损失（即只关注互补性）的性能远低于仅使用相关/去相关损失（即只关注一致性），表明一致性是异质图学习的更为主导因素，而互补性提供了有益的补充。 * 当多个视图结合使用时，性能总是优于单个视图，验证了多视图信息的互补价值。 * 所采用的特征/邻居重构损失，性能优于传统的图结构重构损失。 * 使用非共享编码器（每个视图使用独立的编码器）的性能显著优于共享编码器，这保护了各视图的特有信息。 * 可视化验证：通过可视化维度相关性矩阵，清晰地展示了加入去相关损失后，表示向量的不同维度之间相关性显著降低，有效避免了维度冗余。t-SNE可视化也显示，完整模型的节点表示具有更清晰的类间分离度和更高的轮廓系数。
本研究成功提出并验证了一种名为ESHG的新型高效自我监督异质图表示学习框架。其核心结论是：通过精心设计的相关损失、去相关损失和重构损失，可以在避免维度崩溃和高昂计算成本的前提下，协同捕获异质图中不同元路径视图之间的一致性信息，并有效保留每个视图内部对下游任务有价值的互补性信息。 该研究的科学价值在于： 1. 方法论创新：为自我监督HGRL领域提供了一个无需负样本对比学习、同时兼顾一致性与互补性的新范式，具有重要的理论启发意义。 2. 理论深化：从信息论角度严格证明了所提方法的优越性，将学习目标与最大化任务相关信息量联系起来，为理解HGRL提供了新的理论视角。 3. 实用价值：所提出的框架在多个真实世界数据集和下游任务上展现出卓越的性能和效率，具有良好的应用潜力，可推广至推荐系统、知识图谱、分子设计等依赖异质图数据的领域。
本研究的亮点主要体现在以下几个方面： 1. 问题意识鲜明：精准地指出了现有自我监督HGRL方法在计算效率、维度冗余和忽视互补性三个方面的关键瓶颈。 2. 框架设计精巧且统一：创造性地将“视图间一致性捕获”、“视图内维度冗余降低”和“视图内互补性保持”三个目标融入一个统一的优化框架中，各部分损失函数的设计各司其职又相辅相成。 3. 效率与效果并重：通过用无需负样本的损失函数替代传统对比学习，在显著提升训练效率的同时，反而获得了更优的下游任务性能，实现了“鱼与熊掌兼得”。 4. 理论支撑坚实：不仅提出了新方法，还通过严谨的理论推导，从互信息最大化的角度论证了方法的有效性和优越性，提升了研究的深度和说服力。 5. 实验验证全面：通过广泛的数据集、对比方法、下游任务、消融分析和可视化，全方位、多层次地验证了方法的有效性、效率和各个组件的必要性，结论可靠。
研究中还包含了对相关工作的系统性回顾，涵盖了自我监督学习和异质图表示学习两大领域的发展脉络，并对现有方法进行了清晰的分类（如将自我监督HGRL分为视图内和视图间对比学习两类），这为读者理解研究背景提供了清晰的脉络。此外，附录中提供了详细的模型超参数设置、数据集统计信息以及所有定理的完整证明过程，确保了研究的可复现性和严谨性。