论文
采用反事实延续的长视野智能体的上下文压缩
Adapting Context Compression for Long-Horizon Agents with Counterfactual Continuations
摘要
长视野Agent需要上下文压缩来管理不断增长的交互历史。然而,压缩质量最终取决于下游执行。现有的提示适应方法通过比较全上下文和压缩轨迹来推断压缩误差。这种比较不能隔离单独的压缩,并且会被主体随机性所混淆。我们首先发现压缩会先降低可靠性,然后再降低可解性。使用匹配的反事实延续来比较相同Agent状态与没有压缩的执行情况,我们进一步表明严重的降级集中在孤立的压缩事件上。受这一发现的启发,我们提出了 PAIR(使用介入性rollout的提示适应)来适应结构化压缩提示。 PAIR 识别会降低后续执行性能的各个压缩,诊断其影响,并修改固定压缩模板的相关部分。在每个主要基准范围组合中,PAIR 在压缩方法中实现了最强的交叉运行可靠性,始终超过竞争的即时适应基准。在不修改下游Agent的情况下,PAIR 使压缩执行接近无压缩基线,有时甚至在数值上超过它。