论文
ByteRover:通过LLM策展的分层上下文实现智能体原生记忆
ByteRover: Agent-Native Memory Through LLM-Curated Hierarchical Context
摘要
记忆增强生成(Memory-Augmented Generation,MAG)通过外部记忆扩展大语言模型以支持长上下文推理,但现有方法普遍把记忆当作供智能体调用的外部服务,将存储外包给分块、嵌入和图抽取等独立流水线。这种架构上的分离意味着存储知识的系统并不理解知识,导致智能体想记住的内容与流水线实际捕获的内容之间出现语义漂移、跨智能体协调上下文丢失,以及故障后恢复脆弱。本文提出ByteRover,一种智能体原生记忆架构,它反转了记忆流水线:对任务进行推理的同一个LLM也负责知识的策展、结构化与检索。ByteRover以分层Context Tree表示知识——一个按Domain、Topic、Subtopic和Entry组织的基于文件的知识图谱,其中每个条目携带显式关系、来源信息,以及带重要性评分、成熟度分层和时近衰减的自适应知识生命周期(Adaptive Knowledge Lifecycle,AKL)。检索采用5层渐进策略,大多数查询无需LLM调用即可在低于100毫秒的延迟内解决,只有新颖问题才升级到智能体推理。在LoCoMo和LongMemEval上的实验表明,ByteRover在LoCoMo上取得最先进的准确率,在LongMemEval上取得有竞争力的结果,同时无需任何外部基础设施——不需要向量数据库、图数据库或嵌入服务,所有知识以人类可读的markdown文件存储在本地文件系统上。