美团以统一推荐基座支撑多场景推荐
概述
美团以 MTFM 构建服务于多个业务主场景的统一基座推荐大模型,替换各业务各自的独立精排模型并完成了全量上线。MTFM 是基于 Transformer 的框架,针对工业推荐系统多场景、现有跨域(CDR)与多场景(MSR)方法需大量资源且要求严格输入对齐的限制,采用「不预先对齐输入」的路线:把跨域数据转换为异质 Token,以无对齐方式捕捉多场景知识。训练效率侧引入多场景用户级样本聚合机制显著减少总实例数、提升训练吞吐量;模型侧融合 Grouped-Query Attention 与定制化 Hybrid Target Attention,降低内存占用与计算复杂度;系统侧做 kernel 融合、消除 CPU-GPU 阻塞等优化,进一步提升训练与推理吞吐。在外卖等场景的离线与在线实验均验证了有效性,证明扩展模型容量与多场景训练数据可带来显著性能提升。 后续材料(2026-09-22):美团在生成式精排框架 MTGR 基础上提出统一推荐基座大模型 MTFM,首次把外卖多个主要业务(外卖首页、拼好饭等长期独立建模的场景)统一为一套精排模型并在各核心场景完成全量。模型以类 Transformer(多层 HSTU)骨干端到端建模:用异构 Tokenizer 把多业务输入统一为 H-Token(跨业务历史行为)、R-Token(近实时行为)、T-Token(待预估目标)三类 Token,免去人工对齐特征模板;用动态掩码控制跨场景与时间因果的可见性,防止信息泄漏;借鉴 LLM 混合注意力,采用 Target:Full=3:1 共 16 层结构并引入 GQA,再以 Target Scale-Up(AutoSplit 拆分为 4 个 Target Token、独立 Q Projection 与 SwiGLU FFN、RankMixer 做 Token Mixing)做参数扩展;训练侧采用 User-Level 统一样本与统一行为序列、深度感知初始化、Muon 优化器、按 PV 占比动态加权损失与梯度累积;工程侧自研 FA 镜像与 Mask Kernel、GLN 融合算子、批量化 Newton-Schulz、消除 Host/Device 阻塞点,并在推理侧做查表合并、Maskfunc 规则跳算、GLN 自定义算子与推理图精简。效果上,各业务离线 GAUC 全面超越 MTGR/DLRM 基线,跨场景迁移使小流量业务提升 0.60~0.93pp、中流量提升 0.25pp;线上 MTFM V1 已在美团外卖多个业务完成全量,订单量提升 2.06%~6.68%,最显著业务线订单增长超过 6%,在线推理成本降低 24.0%,单样本计算量 192 GFLOPs(较传统 DLRM 提升数百倍)。