本文由Johannes Kruse(jp/politikens媒体集团与丹麦技术大学)、Kasper Lindskow(jp/politikens媒体集团与哥本哈根商学院)、Michael Riis Andersen(丹麦技术大学)、Ryotaro Shimizu(加州大学圣迭戈分校与ZOZO Research)、Julian McAuley(加州大学圣迭戈分校)、Pierre-Alexandre Mattei(Inria与蔚蓝海岸大学)以及Jes Frellsen(丹麦技术大学与Pioneer Centre for Artificial Intelligence)共同完成。该研究发表于2025年9月22日至26日在捷克布拉格举行的第十九届ACM推荐系统大会(RecSys ‘25),论文标题为“Normative Alignment of Recommender Systems via Internal Label Shift”。
推荐系统在新闻、娱乐、电子商务等内容分发领域扮演着核心角色。然而,单纯以用户参与度(user engagement)为优化目标的推荐系统,常常与更广泛的组织或社会目标产生冲突。以新闻领域为例,纯粹由行为驱动的个性化可能加剧“信息茧房”(filter bubbles)效应,降低内容多样性,并使重要但不太受欢迎的内容被边缘化。这一日益突出的问题推动了推荐系统规范性设计(normative design)研究的发展,即设计不仅有效而且符合公平性、多样性或编辑价值等规范性目标的推荐系统。
现有推荐系统校准(calibration)研究大多采用以用户为中心(user-centric)的视角,关注根据个体用户的历史交互来校准推荐结果。本文则采取了以利益相关者为中心(stakeholder-centric)的视角,使平台能够将推荐与全局规范性目标对齐,同时保持用户参与度和个性化水平。
本研究的核心方法是提出了NAILS(Normative Alignment of Recommender Systems via Internal Label Shift,通过内部标签偏移实现推荐系统规范性对齐)。该方法的核心思想是修改用户条件项分布,以诱导出关于物品属性的指定边际分布,无需重新训练模型即可利用现有的用户-物品偏好信息。
理论建模框架。 研究首先建立了概率模型。设pθ(i|u)表示由参数θ参数化的推荐系统中用户u与物品i交互的概率,其中i表示待排序的候选物品集合,u表示用户集合或其表示。同时考虑从物品i到属性集合c的概率映射p(c|i),属性c可以表示物品的类别。联合模型表示为p(c,i,u)=p(c|i)pθ(i|u)p(u)。研究旨在通过用替代目标分布p̃©替换边际属性分布p©来解决规范性对齐问题。该问题被自然框架化为调整属性类别比例的问题,标签偏移(label shift)文献为此提供了原理性校正方法。
内部标签偏移方法。 研究构建了一个显式具有规范性边际分布p̃©的新模型,定义为p̃(c,i,u)=p(i,u|c)p̃©。基于Saerens等人提出的假设——给定属性的用户和物品条件分布保持不变,规范性对齐模型可以表示为p̃(c,i,u)=p(c|i)pθ(i|u)p(u)·p̃©/p©。最终得到用户与物品交互的概率为p̃(i|u)=[∑c∈c(p̃©/p©)p(c|i)]·pθ(i|u),其中用户相关的归一化常数可以通过对所有候选物品求和计算得到。在实际应用中,该校正可以通过在模型的对数概率中添加权重log∑c∈c(p̃©/p©)p(c|i),然后通过softmax层处理来实现。该方法引入了可调超参数λ∈[0,1],用于在原始推荐器和规范性对齐推荐器之间进行混合,即pλ(i|u)=λp̃(i|u)+(1-λ)pθ(i|u)。
实验设置。 研究在新闻推荐场景下评估NAILS的效果,物品为新闻文章,关注属性为文章类别。研究使用EB-NeRD数据集(Ekstra Bladet新闻推荐数据集),该数据集包含超过3700万条曝光日志,来自超过100万独立用户与超过125,000篇不同新闻文章的交互。文章被标注为八个编辑类别:娱乐(23%)、新闻(22%)、犯罪(18%)、体育(15%)、杂项(9%)、生活方式(7%)、情色(3%)和观点(3%)。
研究使用NRMS(Neural News Recommendation with Multi-head Self-attention)作为基础推荐模型。NRMS是基于多头自注意力的神经网络新闻推荐器,被广泛应用于近期新闻推荐研究中。作为基线方法,研究纳入了CaliRec——一种事后重排(post-hoc reranking)方法,通过贪心构建top-K列表来平衡个性化与目标属性分布的对齐。CaliRec同样包含可调超参数λ。
研究使用Optuna框架和树结构Parzen估计器(Tree-structured Parzen Estimator)进行超参数调优,以AUC为性能指标在EB-NeRD小验证集上进行。最终模型使用学习率10⁻⁴、Adam优化器、ℓ2正则化(λℓ2=10⁻⁴)、20%的dropout率、注意力查询维度100和24个注意力头。所有实验在Amazon EC2 g5.xlarge实例上使用NVIDIA A10 GPU进行。
研究定义了两个目标分布作为规范性校准目标:一是编辑分布(editorial distribution),通过聚合用户候选列表中的类别频率计算,近似反映编辑意图;二是均匀分布(uniform distribution),促进所有类别的平等代表性。
对齐效果分析。 表1报告了不同方法在top-10推荐文章上的KL散度(Kullback-Leibler divergence)和覆盖率(coverage)。随着λ增大,所有方法的KL散度持续下降,表明与目标规范性分布的对齐程度提高。然而对于编辑分布,KL散度在较高λ值时开始回升,说明λ作为平衡对齐强度和排序质量的可调参数发挥作用。CaliRec实现了整体最低的KL@10值,这是可预期的,因为其贪心优化过程显式最小化KL散度。相比之下,NAILS将分布向目标推进,但不直接优化KL散度。
NAILS的随机变体(nails-stoch)实现了候选池的全部覆盖率,因为文章根据对齐分数按概率采样。CaliRec的覆盖率持续下降,而NAILS的确定性变体(nails-det)的覆盖率随λ增加而上升。这表明,通过适当调参,nails-det可以在分布对齐和内容多样性之间取得比严格基于优化的方法更好的平衡。
图1展示了各方法最佳配置产生的聚合类别分布。结果显示,NAILS在系统层面有效对齐了利益相关者定义的分布。不同方法的效果取决于对齐目标——NAILS在编辑分布下表现更好,而CaliRec在均匀分布下更接近目标。
排序性能影响。 图2展示了不同对齐强度λ对AUC的影响。研究观察到规范性目标分布的选择显著影响排序性能。在编辑分布下,应用对齐同时提高了CaliRec和NAILS的AUC,其中NAILS整体性能略高。相反,对齐到均匀分布通常降低AUC,反映了在严格公平性与用户相关性之间取得平衡的挑战。这些结果突显了排序性能与规范性目标对齐之间的重要权衡,也强调了精心设计目标分布的重要性。
本研究提出了NAILS这一新颖方法,用于将推荐分布与规范性目标对齐。实验证明NAILS能有效对齐推荐的类别分布,且目标分布的选择可显著影响排序性能和校准结果。与CaliRec相比,NAILS提供了轻量级且高效的替代方案,在推理过程中避免了求解贪心优化问题。
研究的科学价值在于:提出了一种可扩展、原理性且模型无关的机制,用于将推荐分布与外部规范性目标对齐;从标签偏移的视角重新框架化了利益相关者层面的校准问题;探索了内部层级标签偏移的理论基础。应用价值方面,该方法为使命驱动的新闻发布者等平台提供了实用工具,使其能够在保持用户参与度和个性化的同时,使推荐符合全局规范性目标,如编辑价值和内容多样性。
本研究的主要亮点包括:第一,创新性地将标签偏移方法应用于推荐系统的内部层级结构,实现了属性层面的规范性对齐而非传统物品层面的校准;第二,采用以利益相关者为中心的视角,区别于主流的以用户为中心的校准研究;第三,方法简单高效,无需重新训练模型,仅需在推理阶段添加权重校正项;第四,实验表明在编辑分布下对齐可同时改善排序性能和对齐质量,这一发现具有实践指导意义。
研究同时指出了未来方向,包括在真实环境中部署规范性目标的长期效果研究、对用户参与度和系统动态的影响评估,以及将全局规范性目标校准扩展到编辑和政策驱动的推荐系统。