论文

HMARS:用于长上下文推理的分层多智能体记忆系统

HMARS: A Hierarchical Multi-Agent Memory System for Long-Context Reasoning

上下文与知识上下文工程

摘要

长上下文推理需要模型来访问、检索和整合分散在文档、对话和累积的交互历史中的证据。标准检索增强生成将此问题简化为 top-$K$ 块检索,但这种被动访问可能会在推理开始之前丢弃相关证据,特别是当相关性取决于更广泛的上下文时。我们提出了 HMARS,一种分层多智能体记忆系统,它将长上下文视为托管记忆而不是平面检索语料库。子代理维护对有界内存区域的基础访问,中间代理管理区域上下文并提供特定于查询的协调,前沿模型对检索到的证据页面执行最终推理。为了评估这一观点,我们构建了两个针对证据广度和上下文相关性的诊断基准。在长文档和多轮记忆任务中,HMARS 在检索、重新排序、全上下文、基于图形和代理长上下文基线方面实现了最佳整体性能。证据覆盖率分析进一步表明,其收益来自于更完整地检索所需的支持证据,而不是仅仅改变最终的答案提示。