论文
RecMem：基于循环的记忆整合，实现高效且有效的长时间运行 LLM 代理
RecMem: Recurrence-based Memory Consolidation for Efficient and Effective Long-Running LLM Agents
摘要
记忆系统通常将用户与代理的交互组织为可检索的外部记忆，并且通过克服 LLM 的有限上下文窗口，对于长期运行的代理至关重要。然而，现有的记忆系统调用 LLM 来处理每个传入的交互以进行记忆提取，并且这种急切的记忆整合方案会导致大量的词元消耗。为了解决这个问题，我们通过重新思考何时应该进行记忆整合来提出 RecMem。 RecMem 将传入的交互存储在潜意识记忆层中，并使用轻量级嵌入模型对其进行编码以进行检索。仅当观察到语义相似交互的持续重现时，才调用 LLM 来提取情景和语义记忆。这种基于递归的整合之所以有效，是因为这些交互对应于具有丰富信息的语义簇，因此值得提取和总结。为了提高准确性，RecMem 还采用了语义细化机制，可以恢复记忆提取所遗漏的细粒度事实。实验表明，RecMem 将三个 SOTA 记忆系统的记忆构建词元成本降低了高达 87%，同时超过了它们的准确率。