论文

Web 代理功能的结构化 蒸馏 实现泛化

Structured Distillation of Web Agent Capabilities Enables Generalization

模型训练合成数据

摘要

Frontier LLM 可以导航复杂的网站,但其成本和对第三方 API 的依赖使得本地部署不切实际。我们引入了 Agent-as-Annotators,这是一个框架,通过类比人类注释角色来构建 Web 代理的合成轨迹生成,用模块化 LLM 组件替换任务设计器、注释器和主管。使用 Gemini 3 Pro 作为教师,我们在六个网络环境中生成 3,000 个轨迹,并在通过质量过滤的 2,322 个轨迹上通过纯监督学习对 9B 参数学生进行微调。所得模型在 WebArena 上取得了 41.5% 的成绩,超越了相同评估协议下的 Claude 3.5 Sonnet(36.0%)和 GPT-4o(31.5%)等闭源模型,几乎是之前最佳开源权重结果(Go-Browse,21.7%)的两倍。功能转移到看不见的环境中,WorkArena L1(训练期间从未见过的企业平台)提高了 18.2 个百分点,并且在三个附加基准上得到了持续改进。消融确认每个管道组件都做出了有意义的贡献,其中法官过滤、评估提示和推理跟踪都贡献了可衡量的收益。这些结果表明,来自单个前沿教师的结构化轨迹合成足以产生有竞争力的、可本地部署的网络代理。项目页面:https://agent-as-annotators.github.io