论文

超越相似度:面向个人AI智能体的可信记忆搜索

Beyond Similarity: Trustworthy Memory Search for Personal AI Agents

上下文与知识记忆Agent记忆

摘要

个人人工智能代理越来越依赖长期记忆来提供跨会话的持久个性化。然而,现有的内存管道很大程度上是由语义相似性驱动的:检索接近当前查询的内存数据并将其注入模型上下文中。这造成了严重的可信度差距,因为语义相关的内存可能仍然在上下文中不合适,从而导致跨域泄漏、阿谀奉承、工具调用漂移或内存引起的越狱等威胁。在本文中,我们研究记忆搜索作为个人人工智能代理的信任边界。我们评估了代表性的代理内存框架,包括 A-Mem、Mem0 和 MemOS,以及 OpenClaw(具有持久状态和工具使用功能的真实个人代理环境)。我们的结果表明,长期记忆不仅仅是一个实用层,而且是一个持久的控制通道,可以重塑代理解释任务和执行操作的方式,使它们极易受到上述威胁的影响。为了缓解这些漏洞,我们提出了 MemGate,这是一个轻量级、可部署的内存插件,用于可靠的内存搜索,只有 9M 参数和 35.1MB 占用空间。 MemGate 插入向量内存存储和主干 LLM 之间,不需要 LLM 修改、内存数据库重写或推理时间 LLM 判断。它将查询条件神经门应用于候选记忆表示,将原始相似性搜索转变为任务条件记忆接纳。 MemGate 跨越多个主流内存框架、现实世界的代理设置和不同的 LLM 主干,减少内存引起的威胁,同时保留长期内存效用。

超越相似度:面向个人AI智能体的可信记忆搜索:论文配图
图 1:集成在个人 AI 代理内存检索管道中的 MemGate 架构概述。