论文

DTOC:面向AI Agent自适应上下文管理的动态工具输出压缩

DTOC: Dynamic Tool Output Compression for Adaptive Context Management in AI Agents

上下文与知识上下文工程

摘要

随着Agent能力的增长,实际限制越来越多地来自受限的上下文窗口而非模型容量。常见策略——如截断、启发式老化和有损摘要——可能丢弃有用信息或引入幻觉风险。为应对这些挑战,我们提出动态工具输出压缩(DTOC),一个面向基于LLM的Agent的可扩展上下文管理框架,它把上下文更新建模为Agent推理循环内显式且可逆的操作。DTOC将完整工具输出保留在外部存储器中,同时在活动上下文中插入紧凑占位符,从而支持在需要时进行选择性重建。我们形式化了DTOC机制,将其集成到ReAct式Agent架构中,并提供面向生产的实现,支持按需恢复被压缩的输出。在DeepSWE上的实验揭示了模型相关的效应:对于响应性模型(Sonnet 4.6、GPT-5.4),DTOC减少了输入token(10.3%与12.7%)和Agent步数(2.4%与32.3%),同时提高了求解率(提高2.5倍与1.5倍)并降低了每个已解决任务的成本(分别降低3倍与3.5倍)。对于其他模型结果更为复杂:GPT-5.5的求解率翻倍且成本减半,但其余模型的求解率不受影响且成本出现负面影响。消融结果表明可逆性至关重要:仅禁用式压缩变体导致性能退化,而完整DTOC以显著更低的上下文成本恢复了基线准确率。这些发现表明,显式、可逆的上下文管理可以在不损害任务性能的前提下提升长程Agent推理的效率。