本文提出了一种用于多模态推荐的新型模型BUGLE(Balanced Fusion with Graph Modality Experts),旨在解决多模态融合中的两类平衡困境:模态知识平衡与模态分配平衡。研究由湖南大学计算机科学与电子工程学院的Junhao Gao、Chao Yang与Bin Jiang完成,论文发表于第35届ACM国际信息与知识管理会议(CIKM ’26)。
在推荐系统领域,传统协同过滤方法常因用户交互数据稀疏而导致性能受限,多模态推荐通过引入视觉、文本等多媒体信息在一定程度上缓解了该问题。然而,多模态融合仍然面临关键挑战。一方面,模态知识平衡困境意味着:如果模型过度依赖模态共享知识(如协同过滤信号),各模态表示将趋于同质化,削弱多模态信息的价值;如果过度强调模态独有知识,则可能偏离推荐目标,造成语义鸿沟。另一方面,模态分配平衡困境表现为:信息量大的主导模态容易在训练中占据梯度主导地位,导致模态偏见;但若强行抑制主导模态以追求均衡,又可能忽视其对用户偏好的实际贡献,导致“过度平衡”。针对上述问题,作者提出了BUGLE模型,采用专家混合机制和双任务路由平衡机制来实现更合理的多模态融合。
研究方法上,BUGLE首先通过多层感知机(MLP)将所有模态的原始特征投影到统一语义空间,以解决不同模态特征维度不一致和语义难以对齐的问题。随后,受专家混合机制的启发,作者为每个模态(视觉、文本、ID)设计独立的图专家子网络。每个图专家在共享的用户-项目交互图结构上进行并行解耦建模:利用同一图结构注入模态共享知识,同时在自身独立语义空间中学习模态独有知识,从而保留模态特异性。图专家子网络采用轻量图卷积(LGC)进行高阶邻域语义聚合,通过残差连接融合各层表示。为了增强每个模态表示的判别力,作者进一步引入偏好解耦对比学习机制,在各模态内部拉近用户与正样本项目表征,推远与负样本项目表征,从而实现模态表示与交互监督信号之间的对齐,促进共享知识与独有知识的平衡利用。
在模态融合阶段,BUGLE设计动态专家路由网络。该网络以图专家输出的用户模态表示为输入,通过线性变换、批归一化、激活函数和归一化函数动态计算每个模态的重要性权重,并采用加权拼接方式融合用户多模态表征。针对模态分配不平衡,作者提出双任务路由平衡机制,包含专家路由熵损失和结果引导损失。路由熵损失通过最小化权重分配的负熵,促使各模态权重相对均衡,防止单一模态完全主导融合。结果引导损失则基于每个模态的预测误差计算模态重要性分布,利用均方误差对齐路由网络学习到的权重与模态实际贡献,从而在强调主导模态的同时维持整体平衡。此外,模型还构建了项目-项目相似度图,通过K近邻稀疏化视觉和文本相似度矩阵,并在图上进行语义聚合,以增强项目表示的协同语义。模型最终采用BPR损失作为基础推荐目标,并结合对比学习损失、双任务路由平衡损失以及L2正则化进行联合优化。
在实验部分,研究采用Baby、Sports和Clothing三个Amazon评论数据集进行验证。数据经过5-core过滤,按8:1:1划分训练、验证和测试集。基线包括传统推荐模型(MF-BPR、LightGCN、LayerGCN)和多模态推荐模型(VBPR、MMGCN、DualGNN、FREEDOM、MGCN、LGMRec、FREEREC、HPMRec)。评测指标为Recall@10、Recall@20、NDCG@10和NDCG@20。实验结果显示,BUGLE在三个数据集的所有指标上均优于基线,相较第二优模型提升3%至7%。例如在Sports数据集上,Recall@10从0.0754提升至0.0807,NDCG@10从0.0410提升至0.0440。消融实验表明,图专家子网络、专家路由网络、偏好解耦对比学习损失和双任务路由平衡损失对性能均有贡献。其中将图卷积网络替换为前馈神经网络后性能明显下降,说明图专家能够有效利用协同过滤信号;移除路由网络改为直接拼接融合会降低性能,证明动态权重调整的有效性;去除对比学习或双任务平衡损失同样导致性能下降,验证了各模块的必要性。在叠加分析中,仅保留路由熵损失或仅保留结果引导损失均不如二者结合,说明双任务设计能更好地实现分配平衡。
可视化分析进一步展示了BUGLE的优势。在模态知识平衡方面,使用t-SNE对500个Baby数据集项目表征进行可视化,结果表明,仅使用FFN且去除对比学习的变体呈现三种模态独立聚集、界限分明的分布,说明过度强调独有知识造成语义鸿沟;而BUGLE的三种模态分布在空间中有重叠又有分离,体现了共享知识与独有知识的均衡。在模态分配平衡方面,研究比较了不同变体下专家权重与贡献度分布及其归一化熵。结果显示,仅使用路由熵损失虽然提升了弱模态权重,但严重抑制主导模态;仅使用结果引导损失则导致主导模态权重过高,分配失衡加剧;BUGLE在归一化熵接近1的情况下,权重与贡献度几乎一致,能够同时关注弱模态并突出主导模态。
模态缺失实验表明,去除任一模态(文本、视觉或ID)均导致性能下降,说明各模态专家在模型中均不可或缺。超参数分析发现,Baby和Clothing数据集的最优图卷积层数为2,Sports数据集为3,原因可能在于Sports数据集覆盖多个运动类别,用户兴趣分布差异较大,需要更深的网络跨类别捕获协同信号。在对比学习损失权重和温度系数的网格搜索中,Baby和Clothing的最优参数对为(0.20,0.10),而Sports为(0.10,0.05),这可能与Sports项目特征本身具有较强判别力有关。效率与资源分析显示,BUGLE在训练时间、显存占用和参数量方面均具备较好表现,参数量与早期简单模型处于同一数量级,显著低于FREEDOM、MGCN、LGMRec和HPMRec等近期模型,表明其具有实用价值。
本文提出的BUGLE模型通过图模态专家与偏好解耦对比学习实现模态知识平衡,通过专家路由熵损失与结果引导损失实现模态分配平衡。模型在多个真实数据集上取得了当前最优的推荐性能,同时保持较低的资源开销。其方法框架为多模态推荐中的平衡融合提供了一种可行的范式,具有较高的学术研究价值和应用前景。