论文
Spatial Memory Agent:面向空间智能的经验驱动程序性记忆
Spatial Memory Agent: Experience-Grounded Procedural Memory for Spatial Intelligence
摘要
空间智能正在成为具身智能体、机器人规划与多模态助手的基础。为提升 VLM 的空间推理能力,现有工作主要沿两条路线展开。一条路线使用后训练方法,例如监督微调和强化学习。另一条路线采用 agentic 范式,由模型调用外部空间工具来收集中间空间证据。我们研究一条互补且欠探索的路线:冻结的 VLM 智能体能否通过免参数更新的自我进化来提升空间推理,并在推理时不依赖外部专家空间工具?我们提出 Spatial Memory Agent(SMA),一个以经验为依据的运行时记忆框架,将经过验证的空间经验转化为可复用、可迁移的经验教训。具体而言,SMA 首先在可验证的空间环境中查询冻结的 VLM,获得预测答案和奖励,并使用验证器引导的反思把紧凑的可迁移教训提炼到记忆卡片中。SMA 进一步为每张记忆卡片分配迁移可靠性分数(TRS),该分数初始化为均匀值,并依据后续检索结果进行校准,作为未来迁移可靠性的访问证据。在只读部署阶段,SMA 通过语义过滤和相似度—TRS 联合排序检索记忆卡片,使检索到的记忆引导冻结模型的推理。在五个代表性空间基准上的实验表明,SMA 在全部四个基础 VLM 上取得最佳宏平均准确率,并在大多数单项评估中取得最佳准确率,确立了一条通过可复用经验实现空间自我进化的实用免参数更新路径。
