本研究由Xinhang Yuan、Zexi Huang、Anjia Cao、Xudong Lu等来自TikTok与ByteDance的工业与学术团队共同完成,论文发表于ACM RecSys ’26(推荐系统领域顶级学术会议),DOI为10.1145⁄3773078.3831918。该工作属于推荐系统与多模态表征学习的交叉领域,首次在工业级直播推荐排序器中完全废除候选侧物品ID(item id),以内容驱动的离散语义编码(lucid)作为唯一物品标识。
现代推荐系统长期依赖基于ID的协同过滤范式:每个物品被赋予一个唯一ID嵌入向量,通过海量用户交互积累协同信号,从而实现个性化推荐。然而,直播场景的独特商品形态对这一范式构成根本性挑战。一个直播间仅在开播期间进入候选池,典型开播时长仅数十分钟(中位数约40分钟),其ID嵌入在如此短的生命周期内远未收敛。论文通过生产流量数据的实证测量发现:在直播40分钟时,物品ID嵌入的ℓ2范数仅达到稳态值约0.86,较稳态低约28%。这意味着绝大多数直播物品终其一生都带着欠训练(undertrained)的嵌入运行。与此同时,现代大型推荐模型(LRMs)将大部分容量分配在ID嵌入表上,这些表仅能记忆短时曝光信号,难以泛化。因此,研究团队提出核心论断:当物品ID本身具有短暂性时,ID主导效应已从“可容忍的干扰”上升为“根本性瓶颈”,必须彻底移除候选侧物品ID,而非继续以多模态信号作为ID的补充。
FLUID(Framework for Live Universal ID-free Recommendation)的完整流水线包含四个紧密衔接的阶段。
编码器采用单塔融合架构,包含三个模块:视觉模块基于SigLIP2-base原生分辨率ViT加两层MLP投影器,产生视觉token序列;文本模块将标题、OCR文字、ASR转录、作者简介、观众评论与贴纸标签等元数据token化;单塔融合模块基于Qwen3-Embedding-0.6B大语言模型,处理拼接后的视觉与文本token序列,最终将[EOS]隐藏状态线性投影为128维切片嵌入z。选择单塔而非双塔架构,是为了让视觉与文本在LLM全深度内充分交互,而非仅在输出层相遇。训练采用query-to-item(Q2I)对比学习任务与InfoNCE损失,并引入假阴性掩码机制:一批内若查询嵌入间两两相似度超过预设阈值,则整对负样本被剔除。训练分两阶段进行——先仅训练MLP投影器与输出投影层以保持LLM预训练语义,再以降低学习率全模型端到端微调。最关键的设计在于跨域联合训练:编码器同时使用直播切片与短视频切片数据训练,短视频域拥有更密集、更干净的用户参与监督信号(点赞、分享、完播),可有效提升对直播内容语义的泛化能力。这是FLUID区别于以往单一域多模态编码器的核心特征之一。
为将连续嵌入转化为可进入排序器嵌入表的离散编码,FLUID采用残差量化K-Means(RQ-KMeans)方法,将128维切片嵌入z分解为4层级联码字元组,每层码本大小N=64,得到LUCID编码(Live Universal Content Identifier),形如[33, 42, 63, 3]。作者明确选择RQ-KMeans而非RQ-VAE,原因是RQ-VAE在在线流式重训练节奏下码本条目易发生坍缩,而K-Means一旦拟合即可提供稳定划分。切片级LUCID编码刻画2分钟内容动态(如主播从聊天切换到唱歌),但单个直播间具有贯穿整场直播的稳定身份(主播风格、受众与话题焦点),因此FLUID通过逐层多数投票(per-level majority voting)聚合房间内所有累积切片,得到房间级LUCID。由于残差量化解耦了粗粒度到细粒度语义,逐层投票能够在不同层级上独立提取主导内容,避免层级间语义混合。
将LUCID元组映射为可学习嵌入时,FLUID摒弃了传统的层级独立查表(level-wise decoding)方法,采用前缀N-gram方案(Prefix N-gram Embedding)。层级独立查表存在关键缺陷:在残差量化中,深层级编码是对前缀路径的细化,相同的深层码字在不同前缀下对应完全不同的语义子区域。例如,切片A(c₁=0, c₂=2)与切片B(c₁=3, c₂=2)在层级独立查表下会共享同一嵌入表项e₂(2),尽管残差几何表明这两个子区域毫无关联。前缀N-gram方案通过复合索引公式将每层编码与完整前缀路径绑定,使第l层嵌入表扩展至最多N^l行,公式为:c̃_l = Σₖ₌₁^l c_k · N^{l−k}。切片级与房间级LUCID使用独立参数化的两套前缀N-gram嵌入表,避免稳定房间语义与快速变化切片语义在共享参数空间中相互干扰,消融实验证明独立表格带来额外+0.05% AUC提升。
排序器骨干为类似Transformer的token级特征交互架构(Zenith++,生产管线)。FLUID系统比较了两种融合策略:早融合将物品ID与LUCID嵌入先合并为单一候选表征(如直接替换、拼接、可学习门控等方式);迟融合则让各信号作为独立token进入骨干,由骨干自行学习交互。实验表明,早融合方法均无法有效利用LUCID信息——例如LARM可学习门控收敛后权重坍缩至物品ID一侧,切片LUCID几乎完全未使用。迟融合则将切片LUCID作为独立token添加到物品ID旁,获得+0.22% AUC提升。然而,若在引入LUCID后仍保留候选侧物品ID,排序模型的泛化天花板将受限于短命ID嵌入。因此最终FLUID架构完全移除候选侧物品ID,以房间级LUCID替代其位置,与切片级LUCID并列为两个候选侧token(t_fluid = {r, s},g ∉ t_fluid)。
直接一步切换到去ID配置会导致训练不稳定,深层原因在于优化不对称性:短暂物品ID虽泛化差但携带强物品级记忆信号,骨干在联合训练早期即吸收该信号,抑制了较慢但更具泛化能力的LUCID信号。FLUID据此设计三阶段预热方案。阶段一(slice add-on):从收敛的物品ID检查点初始化,将切片LUCID作为独立token添加,AUC提升+0.22%。阶段二(item id phase-out):渐进式将候选侧物品ID归零,模型过渡到仅依赖切片LUCID,AUC相较基线仍保持+0.11%。阶段三(room add-on):从已预热的切片级LUCID嵌入表初始化房间级LUCID嵌入表,随后独立训练以专精于持久房间身份,AUC达到+0.23%的最终水平。此后尝试将物品ID重新添加回来,未获得额外AUC增益,正式确认LUCID已完全吸收物品ID原有承载的候选侧信息。
排序模型在1680亿实例、4552个特征、98个目标的生产数据集上训练。基线(仅物品ID)AUC为0.7784。添加切片LUCID作为独立token带来+0.22% AUC提升;直接移除物品ID导致AUC暴跌0.47%,印证排序器对ID记忆的严重依赖;而FLUID最终配置(无物品ID + 切片与房间级LUCID)相较基线提升+0.23% AUC、降低0.19% LogLoss,并超越保留物品ID的“+切片LUCID”配置。在线A/B测试进一步验证:FLUID是唯一在全部三组指标上均取得显著提升的配置——参与度质量(quality watch duration +0.55%)、冷启动与多样性(cold-start room views +2.05%、niche room views +2.87%、unique watched tags +1.63%)以及留存(active hours +0.05%、stay duration +0.07%)。相比之下,仅添加切片LUCID(+slice)虽提升参与度与多样性,但留存指标无显著变化;仅移除ID(−id)虽提升冷启动与长尾曝光,却以−0.05% stay duration为代价。
消融实验覆盖编码器与排序器两个层面。编码器方面,骨干升级(Qwen3-Embedding + SigLIP2替换CLIP-B/32 + ALBERT-v2)贡献最大增益(直播Q2I R@10从43.96提升至47.44),单塔融合与两阶段训练在全部检索列上均带来额外提升。排序器方面,前文已述迟融合显著优于早融合,分阶段预热显著优于从零开始的朴素联合训练(后者AUC提升为+0.00%,排序器坍缩至仅依赖物品ID行为)。
FLUID的部署结果证明:当物品本质上是短瞬存在时,彻底移除候选侧物品ID是比继续堆叠融合技巧更有效的策略。这一结论的学术价值在于重新审视了推荐系统中ID与内容的权重关系——在物品生命周期极短的场景中,记忆化ID嵌入不仅无益,反而压制了可泛化内容信号的表达。从应用价值看,FLUID在十亿级用户规模的工业平台上实现全链路去ID化,显著改善冷启动房间曝光与内容多样性,为直播、新闻、实时商品等短生命周期推荐场景树立了可复用的范式。该研究的重要贡献还包括:首个跨短视域与直播域的联合多模态编码器训练方案、RQ-KMeans在流式更新环境下的稳定性优势论证、以及分阶段预热的工程化路径,这些方法论组件对工业界具有直接借鉴意义。