论文
重叠何时有帮助? OSU-Mem 和 LLM 智能体轨迹记忆的细胞条件分析
When Does Overlap Help? OSU-Mem and a Cell-Conditional Analysis of Trajectory Memory for LLM Agents
摘要
长视野 大语言模型 (LLM) 智能体积累的交互轨迹很快超出了任何实际提示预算,而现有的记忆方法要么积极截断并丢失非局部证据,要么保留降低决策质量的样板文件。我们提出一个机制问题,而不是声称有一个更好的通用记忆系统:何时将轨迹记忆组织成重叠语义单元(OSU)——一组相关步骤,其中一个步骤可能属于多个单元——有助于检索平坦或不相交的替代方案?我们在 OSU-Mem 中实例化这一点,它通过预算从粗到细的扩展从重叠的 OSU 池中检索,并表明它的好处是有条件的:当查询的证据步骤需要共享工具调用或实体时,重叠内存会有所帮助,但当这些步骤完全异构且两者都不共享时,重叠内存会带来伤害。在综合基准上,证据通过构造来承载这种共享结构,OSU-Mem 比理论预测的最强基线有所改进;然而,在一个串联的、构造的未增强的 $τ$ 工作台上,其相对于平面检索的总体优势消失了。根据证据是否共享工具和实体来拆分查询表明,这种近乎联系是混合查询类型的产物,而不是任一方法的属性,而 ToolBench(一种旨在通过设计承载共享结构的受控探针)通过重叠与不相交构造对比(在覆盖引导变体下)证实了相同的机制,隔离了构造原理而不是验证完整的默认系统。由于相关共享可以通过元数据进行廉价估计,因此分析产生了基于元数据的启发式方法,用于预测重叠何时可能改善检索。我们故意隔离检索层,通过检索质量和 LLM 介导的证据选择阶段进行评估。