论文
Token Factory：高效地将多样化信号集成到大型推荐模型中
Token Factory: Efficiently Integrating Diverse Signals into Large Recommendation Models
摘要
大型推荐模型（LRM）在行业规模的推荐任务中表现出了有前景的能力。然而，有效且高效地将传统信号全面集成到这些基于 Transformer 的架构中仍然是一个重大挑战。直接“文本化”这些信号或创建离散项目表示的传统方法通常会导致提示过长、内存占用量大和计算开销高。为了克服这些限制，我们提出了“Token Factory”，这是一个旨在将传统信号转换为可以直接由 LRM 处理的“软词元”的框架。这种方法可以有效集成和压缩异构输入特征，防止提示长度爆炸，同时增强模型性能。我们详细介绍了词元工厂的架构，并提供了验证其在生产规模推荐环境中有效性的实验结果。