论文

Hippocampus:面向Agentic AI的高效可扩展记忆模块

Hippocampus: An Efficient and Scalable Memory Module for Agentic AI

上下文与知识记忆Agent记忆

摘要

Agentic AI需要持久记忆来存储超出LLM有限上下文窗口的用户特定历史。现有记忆系统使用稠密向量数据库或知识图谱遍历(或二者的混合),带来高检索延迟和糟糕的存储可扩展性。我们提出Hippocampus,一个agentic记忆管理系统,它使用紧凑的二进制签名进行语义搜索,并使用无损的token-ID流进行精确内容重建。其核心是动态小波矩阵(Dynamic Wavelet Matrix,DWM),它对两种流进行压缩与共索引,以支持在压缩域内的超快速搜索,从而避免代价高昂的稠密向量或图计算。该设计随记忆规模线性扩展,使其适合长程agentic部署。实验评估显示,Hippocampus将端到端检索延迟最多降低31倍,将每查询token足迹最多削减14倍,同时在LoCoMo和LongMemEval两个基准上保持准确率。

Hippocampus:面向Agentic AI的高效可扩展记忆模块
图5:Hippocampus 中记忆构建流水线示意图。DWM 表示我们提出的动态小波矩阵(Dynamic Wavelet Matrix),下标 (·)_2 表示整数的二进制表示,例如 token-id。DWM 的第一行作为条目级索引,标记每个 token 在内容序列化(Content Serialization)中的起始和结束位置(例如 StartIndex α 和 EndIndex β)。