论文

Spatial Memory Agent:面向空间智能的经验驱动程序性记忆

Spatial Memory Agent: Experience-Grounded Procedural Memory for Spatial Intelligence

上下文与知识模型训练智能体系统强化学习记忆Agent SkillsAgentic RLAgent记忆

摘要

空间智能正在成为具身智能体、机器人规划与多模态助手的基础。为提升 VLM 的空间推理能力,现有工作主要沿两条路线展开。一条路线使用后训练方法,例如监督微调和强化学习。另一条路线采用 agentic 范式,由模型调用外部空间工具来收集中间空间证据。我们研究一条互补且欠探索的路线:冻结的 VLM 智能体能否通过免参数更新的自我进化来提升空间推理,并在推理时不依赖外部专家空间工具?我们提出 Spatial Memory Agent(SMA),一个以经验为依据的运行时记忆框架,将经过验证的空间经验转化为可复用、可迁移的经验教训。具体而言,SMA 首先在可验证的空间环境中查询冻结的 VLM,获得预测答案和奖励,并使用验证器引导的反思把紧凑的可迁移教训提炼到记忆卡片中。SMA 进一步为每张记忆卡片分配迁移可靠性分数(TRS),该分数初始化为均匀值,并依据后续检索结果进行校准,作为未来迁移可靠性的访问证据。在只读部署阶段,SMA 通过语义过滤和相似度—TRS 联合排序检索记忆卡片,使检索到的记忆引导冻结模型的推理。在五个代表性空间基准上的实验表明,SMA 在全部四个基础 VLM 上取得最佳宏平均准确率,并在大多数单项评估中取得最佳准确率,确立了一条通过可复用经验实现空间自我进化的实用免参数更新路径。

Spatial Memory Agent:面向空间智能的经验驱动程序性记忆:论文配图
图3:空间记忆智能体(Spatial Memory Agent,SMA)的系统方法与工作流。在记忆写入期间,冻结的视觉-语言模型解决可验证的空间问题,反思步骤将每次 rollout 压缩为程序性记忆。在只读部署期间,语义相似度过滤记忆库以检索候选,同时由验证器导出的迁移可靠性分数(TRS)对这些候选排序,随后用于指导新任务;模型参数与记忆库在部署期间保持不变。