论文

SE-GA:GUI智能体 的记忆增强型自我进化

SE-GA: Memory-Augmented Self-Evolution for GUI Agents

上下文与知识记忆Agent记忆

摘要

由于受限的上下文窗口和无法适应动态环境的静态策略,自主图形用户界面(GUI)代理经常难以处理多步骤任务。为了解决这些限制,这项工作提出了自我进化 GUI智能体 (SE-GA),这是一种将分层记忆结构与迭代自我改进机制集成在一起的新颖框架。我们方法的核心是测试时记忆扩展(TTME),它通过动态检索情景、语义和经验记忆来促进长期规划,以在推理过程中提供显着的上下文。为了确保持续学习,我们引入了记忆增强自我进化(MASE),这是一个训练管道,采用 TTME 收集的数据来稳定和增强代理的基础策略。离线和在线基准测试的广泛评估表明 SE-GA 实现了最先进的性能,在 ScreenSpot 上达到 89.0% 的成功率,在具有挑战性的 AndroidControl-High 数据集上达到 75.8% 的成功率。此外,AndroidWorld 基准测试的显着改进凸显了对动态环境的卓越泛化。开源代码:https://github.com/jinshilong-dev/SE-GA