论文

Mem-W:将潜在记忆融入连续上下文的 GUI 智能体

Mem-W: Latent Memory-Native GUI Agents

上下文与知识记忆Agent记忆

摘要

GUI智能体 开始将网络、移动和桌面作为交互式世界进行操作,其中成功的控制取决于将视觉、程序和任务级证据超越转瞬即逝的当前屏幕。然而,大多数智能体仍然将记忆视为外部的、人类可读的工件:历史被总结、分类、检索并作为文本或结构化记录重新插入,然后由策略再次编码。这造成了存储经验的表征形式与现代 GUI 策略实际起作用的潜在嵌入序列之间的不匹配。我们引入了 Mem-W,这是一系列潜在记忆原生 GUI智能体,它将记忆视为智能体连续上下文的一部分,而不是作为辅助符号支架。 Mem-W 通过共享轨迹到潜在压缩器将历史轨迹(作为经验记忆)和会话中片段(作为工作记忆)编织成紧凑的记忆词元。这些标记与当前 GUI 观察和本地上下文编织成一个连续的嵌入序列,允许代理通过相同的机器本机界面读取成功、失败和未完成的进度。 Mem-W 经过自我 蒸馏 和结果感知监督的训练,以保留决策相关状态,同时过滤记忆以获取真正支持任务成功的证据。在四个网络和移动导航基准测试中,Mem-W 持续改进了不同的骨干网和记忆增强基线,报告最高+30.0的增益,这表明连续潜在上下文中的原生记忆可以作为长程 GUI 智能体的可扩展基础。