论文

超越压缩:长视野代理的结构化上下文驱逐

Beyond Compaction: Structured Context Eviction for Long-Horizon Agents

上下文与知识上下文工程

摘要

我们提出了上下文窗口生命周期(CWL),这是一种上下文管理方案,为长期 LLM 代理提供了有效的无限制工作范围。随着会话累积历史记录,CWL 通过分级的、语义感知的逐出将上下文保持在预算范围内:随着工作的进行,代理将其轨迹注释为类型化的、依赖链接的情节,并且当超出 词元预算 时,确定性的、无 LLM 的策略会按优先顺序逐出该结构中的内容。 CWL 保留了用户转向和代理正在积极推理的探索性上下文,同时积极地放弃其影响已经在环境中持续存在的动作片段,将活动上下文保持在稳定的上限附近,这也避免了与非常大的提示相关的性能下降。与基于摘要的压缩相比,CWL 避免了四个众所周知的限制:不可预测的损失、因果结构的破坏、阻塞模型成本和压缩引起的幻觉。与新近度截断相比,CWL 在语义上具有感知能力:它根据依赖关系图删除最旧且最可恢复的内容,而不是无论相关性如何,都删除时间最旧的内容。我们描述了注释协议、情节图、逐出策略和词元记账循环,并在长期代理基准上评估 CWL:单个代理会话在 8000 万个词元上完成 89 个连续任务,相对于每个任务隔离会话,任务准确性没有明显下降