CoACT：编码智能体 的动作保留观察压缩

基于 LLM 的 编码智能体 通过与开发环境的迭代交互来解决软件工程任务，其中返回的观察结果在上下文中累积并成为推理成本的主要来源。观察压缩通过在将观察附加到上下文之前缩短观察来降低这种成本。然而，现有方法仍然表现出令人不满意的效率-效果权衡，因为它们没有明确地模拟压缩如何影响智能体的后续行为。本文提出了 CoACT，一种针对 编码智能体 的动作保留观察压缩方法。 CoACT 建立在下一步动作保存 (NAP) 的基础上，它需要压缩观察来引发与原始观察相同的下一步动作。通过检查代理立即采取的下一步行动，NAP 提供了一个实用信号，表明压缩是否保留了继续解决任务所需的信息。在训练期间，教师模型首先为每个观察生成多个压缩候选者。然后，CoACT 使用基于 NAP 的动作保留奖励来过滤掉会改变智能体下一步动作的候选者，并使用长度减少奖励来选择紧凑的候选者作为轻量级压缩器的监督。 SWE-bench 上的实验通过三种代理模型进行验证表明，CoACT 将平均总词元消耗降低了 33.0%，同时保持接近未压缩代理的任务解决效率。