论文
加权记忆树:为长程LLM智能体记住要紧之事
Weighted Memory Tree: Remembering What Matters for Long-Horizon LLM Agents
摘要
大语言模型(LLM)智能体已展示出解决需要规划、工具使用和外部信息访问的多步任务的能力,但不断增长的执行历史推高了推理成本,并使推理暴露于过时、无关或误导性信息之下,可能降低推理质量。现有记忆方法组织或压缩执行历史,但对决定哪些记忆保持活跃提供的机制有限。我们提出加权记忆树(Weighted Memory Tree,WMT),一个层次化记忆系统,把执行组织为任务、子任务和动作,同时为每条记忆分配一个动态留存分数。基于事件的更新和基于选择的衰减修订这些分数,使WMT能够保留有用信息、折叠已完成的轨迹、抑制低效用内容,并保留对已折叠上下文的访问。我们在GAIA-Text上使用Qwen3-8B、Gemma 4 E4B和Llama-3.1-8B评估WMT,并进行了消融和记忆投毒实验。相对于线性记忆,WMT平均提升准确率9.97个百分点,同时把提示token使用减少32.8%。记忆投毒实验表明,WMT限制了不可靠信息的持续性与传播。我们的结果表明,有效的长程智能体记忆较少取决于存储更多信息,而更多取决于决定哪些信息应保持活跃。
