论文

压缩上下文,保留承诺:可验证 LLM 上下文压缩的正式框架

Compress the Context, Keep the Commitments: A Formal Framework for Verifiable LLM Context Compression

上下文与知识上下文工程

摘要

LLM 上下文不仅仅是标记;这是一系列承诺。长期运行的对话会积累未来响应必须保留的目标、约束、决策、偏好、工具结果、检索到的证据、工件和安全边界。现有的上下文管理方法通过截断、检索、摘要、内存系统或 词元级 提示压缩来减少长度,但它们很少指定哪些语义承诺必须在压缩中幸存下来或应如何衡量它们的保存。我们提出了 Context Codec,一个用于压缩提示和聊天历史的承诺级框架。上下文编解码器将对话状态表示为类型化、基于源的语义原子,具有规范身份、等价性、冲突、置信度、风险和证据跨度。它将五个关注点分开——提取、标准化、表示、渲染和验证——并引入了关键原子召回、加权原子召回、承诺密度和往返可恢复性的指标。它还定义了语义压缩错误的分类法、具体的规范化程序、低置信度和安全关键原子的保守后备规则,以及上下文压缩语言 (CCL)(规范 JSON 原子的 ASCII 优先紧凑渲染)。在一项小型诊断研究中,CCL-Core 占据了结构化散文和 JSON 之间有用的中间地带:比散文更明确且可审计,通常比 JSON 更紧凑,并且比高度缩小的符号风险更低。结果并不是声称速记可以解决压缩问题,而是一个使上下文压缩可验证的框架:压缩对话,保留承诺。