论文

当内存采取梯度时:代理推荐系统的协作向量内存

When Memory Takes Gradients: Collaborative Vector Memory for Agentic Recommender Systems

上下文与知识记忆Agent记忆

摘要

代理推荐系统将 大语言模型 (LLM) 的每个决策都存储在用户的持久内存中,并且在现有代理中,该内存是文本:由进一步的 LLM 调用编写和维护的叙述。文本以两种方式限制这种记忆。它一次更新一次重写,因此利用完整的交互历史记录的成本非常昂贵;协作证据(对整个目录进行相似性分级)无法翻译成句子。我们提出了 CoVeMem(协作向量记忆),它将智能体记忆的协作核心向量化。 Frozen LightGCN 用户和项目状态形成内存库;在每个决策中,候选集本身都会检索最相关的历史状态,这些历史状态作为软标记与轻型文本配置文件一起进入 LLM 的上下文。与项目语义锚点进行对比对齐,然后与蒙面候选者进行列表联合训练,教会模型读取这些状态并对它们进行排名;逐点是/否读数对每个候选人进行评分。在四个基于指令的推荐基准中,CoVeMem 在 20 个度量单元中的 19 个上匹配或超过了最强的协作文本记忆代理,同时需要零额外的 LLM 调用来进行超出共享静态配置文件的内存维护,而不是每次交互调用文本记忆。记忆现在采用梯度:文本无法触及的完整交互历史记录可以作为代理记住的内容以及如何读取所记住的内容的训练数据。