论文

OneBid:适用于多种 oCPX 广告场景的统一自动竞价基础模型

OneBid: A Unified Auto-Bidding Foundation Model for Diverse oCPX Advertising Scenarios

摘要

自动出价是计算广告的核心,其策略必须在经济限制下最大化广告商的转化价值。它已经从基于规则的控制器发展到强化学习和生成方法,例如决策变换器(DT)。然而,这些方法与流行的优化每次 X 成本 (oCPX) 范式越来越不匹配,该范式跨越异构场景(例如注册、购买),每个场景都由单独的模型提供服务,导致管道碎片化和跨场景建模探索不足。受 LLM 等基础模型的启发,将这些 oCPX 场景统一为一个模型提出了三个挑战:多目标控制、严格延迟下的可扩展容量以及安全离线策略改进。我们提出了 OneBid,这是一个统一的自动出价基础模型,它从异构 oCPX 日志中学习可重用的主干,并通过离线后训练使其适应特定于场景的部署。在 DT 的基础上,OneBid 将单个 Return-to-Go 条件扩展到两个原子信号,即用于转换价值的 Return-to-Go 和用于成本比的 Cost-to-Go,以及对下一步动作预测的价值感知正则化。为了吸收分布异质性,我们设计了一个序列级专家混合架构,其中共享专家对跨场景知识进行编码,而稀疏路由的专家以低延迟捕获特定于场景的模式,从而根据模型大小和数据产生一致的扩展。在训练后,我们通过评论家引导的相对离线策略优化(CROP)将主干与场景偏好结合起来:一个有学问的评论家对候选行动组进行相对评分,避免GRPO式微调的不安全在线探索,同时限制政策转变以降低OOD风险。通过在线 A/B 测试验证并在快手全面部署,OneBid 在 oCPX 广告上实现了 +2.2% 的总体 ADVV 增益,在 ROAS 场景中最高达到 +13.1%。