生产推荐模型扩展同时考虑任务空间与服务约束

生成式推荐模型将用户行为表示为事件序列，为多种推荐任务提供共享主干。但预训练收益不会自动转化为生产应用改善，任务剩余提升空间、重复训练成本、服务延迟和内容时效性都会影响迁移。研究在生产规模的内容推荐场景中，将主干参数从200万扩展到10亿（不含嵌入与解码层），观察到不同任务的规模收益不同：部分任务在已考察范围内接近经验上限，其他任务仍随容量增加而改善，因此用带偏移项的缩放定律拟合诊断继续扩大的价值。针对数万亿行为词元上的频繁重训、缓存导致下一词元目标过时、新上线内容缺少可靠协同 ID 嵌入等问题，方法采用多词元预测对齐服务延迟、采样 softmax 与投影解码头降低重复训练成本，以及带协同嵌入掩蔽的语义内容塔适应冷启动。在覆盖100万用户、持续一周的生产影子评估中，10亿参数主干在所有报告任务上的 MRR 均高于200万参数基线。结果表明，规模只是生产迁移的一部分，还需结合任务提升空间、解码成本、服务延迟与内容泛化。