基于 LLM 的自动出价的策略感知参数高效适应

广告竞价已经从手动策略发展到更适合大规模、动态拍卖环境的自动竞价系统。虽然 大语言模型 (LLM) 的最新进展为自动投标提供了强有力的推理，但现有方法受到浅层轨迹文本交互的影响，并且需要昂贵的 微调，阻碍了在不同约束下有效使用预训练知识。为了应对这些挑战，我们提出了 SAGE，这是一种新颖的策略感知自动出价框架，由 LLM 引导，以实现高效出价。 SAGE 引入了参数高效的多模式对齐框架，用于使用 LLM 进行约束自动出价。具体来说，SAGE 包括三个关键组件：（i）位置增强模块采用时间语义位置嵌入来有效捕获内在动态和语义结构； (ii) 文本对齐模块利用门控交叉注意力来对齐轨迹和文本模态的嵌入空间，实现有效的多模态融合，同时减轻长轨迹造成的计算开销； (iii) 约束门控 LoRA 模块采用约束作为路由信号，仅激活一小部分专家来有效地适应冻结的 LLM 的行为。对大规模自动竞价基准的大量实验表明，SAGE 始终如一地实现了卓越的性能，同时调整了完整 微调 所需的不到 10% 的可训练参数。消融研究进一步验证了每个组件对框架整体性能的关键贡献。