论文
学习循环,而不仅仅是页面:Web 生成的基于执行的循环学习
Learning the Loop, Not Just the Page: Execution-Grounded Loop Learning for Web Generation
摘要
功能性 Web 生成越来越优化,并具有可执行的奖励,但现有方法主要关注最终页面的质量,而对诊断和修复不完美实现的过程没有进行充分探索。我们确定了这种设置中的一个核心挑战:生成器和精炼器产生具有直接环境奖励的可执行工件,而中间批评者影响下游行为,而没有直接可执行的结果。我们引入了 WebLoop,一个以执行为基础的框架,可以在共享策略中共同学习生成、批评和细化。 WebLoop 训练一个无执行的 Critic,其具有需求级别区分性和下游帮助的互补信号,首先建立可靠的诊断,然后引入后果感知信用,而所有三个角色都通过群体相关策略学习联合优化。使用 Qwen3.5-9B,WebLoop 在 WebRise 上的总体准确率达到 41.5,在 WebGen-Bench 上的准确率达到 38.9%,分别将基础模型提高了 11.3 点和 15.4 点。收益转移到第一遍 生成,坚持 27B 规模,并从纯文本训练推广到多模式输入。受控分析进一步表明,这种改进不能仅通过额外的细化过程来解释,这凸显了学习 Critic 和循环本身的重要性。