论文
带引导优势估计器的忠实移动GUI智能体
Faithful Mobile GUI Agents with Guided Advantage Estimator
摘要
基于视觉-语言模型的图形用户界面(GUI)智能体已展现出强大的交互能力。然而,它们的行为常常不忠实,依赖记忆中的捷径,而不是将动作建立在屏幕显示证据或用户指令之上。为解决这一问题,我们提出Faithful-Agent,一个忠实性优先的框架,它重新表述GUI交互问题,将证据落地性和内部一致性置于优先地位。Faithful-Agent采用两阶段流水线:(i) 面向忠实性的SFT阶段,在证据扰动下灌输放弃作答行为;(ii) RFT阶段,通过引入引导优势估计器(GuAE)进一步放大忠实性,GuAE是建立在GRPO之上的基于锚点、方差自适应的优势调节机制。GuAE防止了稀疏GUI奖励下低方差rollout组中的优势坍塌;结合思维-动作一致性奖励,Faithful-Agent(第二阶段)将Trap SR相对基线从13.88%提升到80.21%,同时保持了稳健的通用指令遵循性能。
