技术实践

得物联合训练生成召回与重排并进行线上验证

应用与实践模型架构模型推理Transformer解码与生成控制行业应用

概述

得物在社区推荐场景完成生成式召回一期探索,用「预测下一个点击内容」的生成式范式替代传统判别式 ANN 匹配。方案为 Generative Model 与 Rerank Model 联合训练的端到端架构、共享底层特征表示,并按设定损失权重做多任务梯度平衡。生成模型基于 Transformer 做 Next-Token 生成:输入用户图文与视频有效点击序列及对应的一/二/三级类目序列,截断最近 100 个行为。 首位 User Token 由联合训练的辅助双塔产出并用梯度隔离保证双塔与生成任务独立优化。模型规模取当前 DeepRec 框架可承受的最大参数配置 n_layers=3、n_heads=4、dim=64,并加入 position embedding。线上推理为「生成→向量化→检索→重排」四步:先由 Decoder 生成 Top-K 一级类目(离线 recall@100 搜索确定 K=4 最优)作为硬条件向量,再经条件双塔 user_tower 得到图文与视频各 K 个兴趣向量以实现兴趣解耦,各向量分别 ANN 检索后由 Rerank 模型精细打分,最后蛇形 Merge 融合输出。 社区线上严格 AB 测试结果显示:人均推荐有效VV +0.41%、社区DAU均时长 +0.37%、人均推荐总时长 +0.45%、推荐曝光UV人均内容VV +0.39%。多样性方面人均点击一级类目数 +0.18%、人均点击三级类目数 +0.23%、人均曝光三级类目数 +0.19%,全部标注显著。