论文

面向GUI智能体的混合自演化结构化记忆

Hybrid Self-evolving Structured Memory for GUI Agents

上下文与知识记忆Agent记忆

摘要

视觉语言模型(VLM)的显著进步使GUI智能体能以类人方式与计算机交互。但真实计算机使用任务仍因长程工作流、多样接口与频繁中途错误而困难。已有工作用大规模轨迹集合构建外部记忆,但依赖离散摘要或连续嵌入的平面检索,缺乏人类记忆的结构化组织与自演化特性。受大脑启发,我们提出混合自演化结构化记忆(HyMEM):把离散高层符号节点与连续轨迹嵌入耦合的图式记忆。HyMEM以图结构支持多跳检索、经节点更新操作自演化,以及推理期间即时刷新工作记忆。大量实验显示HyMEM持续提升开源GUI智能体,使7B/8B骨干匹敌或超越强闭源模型;尤其为Qwen2.5-VL-7B带来+22.5%,并胜过Gemini2.5-Pro-Vision与GPT-4o。

面向GUI智能体的混合自演化结构化记忆:论文配图
图 1:混合自演化内存 (HyMEM) 系统概述。上图:通过图演化进行内存构建,其中使用检索和基于 VLM 的冗余检查来集成新的轨迹。底部:四个推理阶段 - (1) 通过结构化图扩展进行查询和检索,(2) 使用混合编码进行工作记忆初始化,(3) 代理执行,以及 (4) 基于新观察的即时工作记忆刷新。