论文
MEMONDEMAND：面向大规模企业数据的记忆管理系统
MEMONDEMAND: A Memory Management System for Large-Scale Enterprise Data
摘要
企业数据仓库庞大、异构且持续更新，当需要同时支持高效访问、源忠实证据和跨查询适配时，检索变得困难。企业记忆将检索扩展到模型上下文之外，但现有系统没有在这一规模上联合解决集合专属的层级构建、低成本路由、详细证据加载和工作负载感知的记忆更新。我们提出MEMONDEMAND（On-Demand Memory的缩写），一个具备三种协同机制的记忆管理系统：为每个集合确定抽象结构与深度的动态多级层级；每个层级上的双记忆，将蒸馏路由与详细证据分离；以及在有界活跃状态预算下更新节点优先级的按需记忆提升。在EnterpriseRAG-Bench上，MEMONDEMAND在从1000万token到完整的6.18亿token集合的每个评估规模上都优于已发表的最强LB#1结果，在1000万和6.18亿规模分别取得12.23%和4.66%的提升。在FinanceBench、HotpotQA和FRAMES上的结果进一步显示了在金融、多跳和事实检索场景下的强劲表现。这些结果共同确立了MEMONDEMAND作为跨数据规模、领域和证据需求、面向超大型企业数据仓库的准确、高效且可扩展的记忆解决方案。我们的代码见 https://github.com/xfab-xinyuansong/MemOnDemand.git。
