论文

不要盲目行动:通过动作效果验证和自我纠正实现强大的 GUI 自动化

Don't Act Blindly: Robust GUI Automation via Action-Effect Verification and Self-Correction

智能体系统Agent 环境交互

摘要

基于视觉语言模型 (VLM) 的自主 GUI智能体 通常假设确定性环境响应,生成操作而不验证先前操作是否成功。在存在网络延迟、渲染延迟和系统中断的现实环境中,这种假设会导致未检测到的操作失败、重复的无效行为以及灾难性的错误累积。此外,由于在线交互的高成本和离线数据集中缺乏实时反馈,学习鲁棒的恢复策略具有挑战性。我们提出了 VeriGUI(验证驱动的 GUI智能体),它明确地模拟了噪声环境下的动作结果和恢复。 VeriGUI 引入了一个思考-验证-行动-期望 (TVAE) 框架来检测故障并指导纠正推理,以及将鲁棒 SFT 与合成故障轨迹和 GRPO 与不对称验证奖励相结合的两阶段训练管道。我们进一步构建了基于AndroidControl的鲁棒性基准来评估故障识别和纠正。实验表明,VeriGUI 显着减少了故障循环并提高了恢复成功率,同时保持了具有竞争力的标准任务性能。