论文
CliffCompaction:面向长程编码Agent的高性价比上下文压缩
CliffCompaction: Cost-Efficient Compaction for Long-Horizon Coding Agents
摘要
Agent经常处理需要数百万token上下文的复杂问题,由于上下文窗口有限,必须在会话间进行压缩。我们开发了CliffCompaction,一种自动压缩技术,在有界上下文下将成本降低最高达50%,同时在Terminal-Bench上保持或提升性能,并在测试时扩展上达到新的效率水平、在KernelBench上取得最先进结果。CliffCompaction每次rollout的节省使测试时扩展的性能-成本权衡更高效:以不到两次完整上下文运行的成本,在Terminal-Bench上增加超过10个百分点。在并行测试时扩展下,CliffCompaction让Kimi K2.6以更低成本匹敌Opus 4.7,并超越Opus 4.6和GPT-5.3 Codex。CliffCompaction有效的关键在于它只通过截断或删除内容来保持被压缩信息的忠实,从不改写或重写内容。我们从不压缩压缩产物——每一轮只作用于原始内容,先前的压缩输出被丢弃,从而防止上下文漂移累积。这些特性支撑了超过百万token会话的持续学习:在KernelBench上,CliffCompaction在200步后达到2.23倍的CUDA内核加速,400步后达到3.58倍,超越了专用搜索算法与训练型Agent,尽管它只是一种通用压缩技术。我们开源了一个与脚手架无关的API代理实现,可配合Claude Code、Codex及其他harness使用。