论文

在单个仅解码器序列中统一生成召回和多目标排序

Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence

模型架构Transformer

摘要

现代工业推荐系统通常将召回和排名分为两个独立的阶段。尽管这种级联支持语料库级检索和细粒度多目标评分,但它会导致目标不一致、候选切换时的信息丢失以及冗余的用户端上下文计算。同时,生成召回和排名缩放共享基于 Transformer 的通用建模理念,其中架构一致性为统一集成创造了自然的机会。然而,直接共享仍然具有挑战性,因为这两项任务需要不同的信息可见性和优化方法。因此,我们提出 \textbf{UniR$^2$},一个 \textbf{Uni}fied 解码器 Transformer,它将生成 \textbf{R}ecall 和多目标 \textbf{R}anking 统一在包含用户上下文、SID 轨迹和项目特征的单个异构序列中。在此序列中,生成的轨迹充当召回和排名之间的表示桥梁,其中双查询前缀因果注意提供特定于任务的可见性。这两个任务共享基本注意力权重,但保留单独的优化边界,排名侧 LoRA 保留排名适应性,而不破坏生成主干。对大规模工业数据进行的大量离线实验证明了 UniR$^2$ 在召回和排序方面的有效性和效率。快手平台上的长期在线A/B测试进一步显示出持续的正收益,验证了统一模型在大规模推荐系统中的实用性。