论文

HyMem:具有动态检索调度的混合记忆架构

HyMem: Hybrid Memory Architecture with Dynamic Retrieval Scheduling

上下文与知识记忆Agent记忆

摘要

大型语言模型(LLM)智能体在短文本场景中表现出强劲性能,但由于记忆管理低效,在长对话中常常表现不佳。现有方法面临效率与效果之间的根本权衡:记忆压缩有丢失复杂推理所需关键细节的风险,而保留原始文本会为简单查询引入不必要的计算开销。症结在于单一化记忆表示与静态检索机制的局限,它们无法模拟人类所展现的灵活而主动的记忆调度能力,因而难以适应多样的问题场景。受认知经济原则启发,我们提出 HyMem,一种通过多粒度记忆表示实现动态按需调度的混合记忆架构。HyMem 采用双粒度存储方案,配合动态两级检索系统:轻量模块构建摘要级上下文以高效生成回复,而基于 LLM 的深度模块仅在复杂查询时被选择性激活,并由反思机制增强以迭代精炼推理。实验表明,HyMem 在 LOCOMO 和 LongMemEval 两个基准上均取得强劲表现,优于全上下文方式,同时将计算成本降低 92.6%,在长期记忆管理中确立了效率与性能之间最先进的平衡。

HyMem:具有动态检索调度的混合记忆架构
图3:(a) Memory Storage Module 的工作流。该图展示了构建双层记忆结构的完整流水线:从原始对话预划分的事件单元(Level-2 记忆)生成核心摘要(Level-1 记忆),建立多对一链接以支持召回阶段的记忆回溯,最后持久化存储到数据库中。(b) Memory Recall Module 内的推理工作流。查询首先被路由到轻量级模块,必要时选择性激活深层模块,随后进行迭代优化,并由 Reflection Module 进行最终审查以产生输出。