思考即压缩：你的推理模型其实是一个上下文压缩器

上下文压缩旨在以最小的信息损失缩短长上下文输入，从而加速LLM推理。尽管现有方法已展现出前景，但它们通常依赖复杂的压缩模块或针对压缩的专门训练，使LLM的内在能力未得到充分挖掘。与此相反，本工作揭示思考模型本身就能通过组织任务相关信息来自然地压缩长上下文。据此我们提出思考即压缩（Thinking as Compression，TaC），一种将思考本身视为压缩后上下文的新压缩范式。无需依赖任何专门的压缩器，TaC直接提示思考模型生成思考轨迹作为缩短后的上下文，这已能超过多数代表性压缩方法。进一步地，鉴于原始思考输出可能难以控制预算并出现走捷径行为，我们提出约束版思考即压缩（TaC-C），利用简单的奖励驱动优化框架引导内在思考成为紧凑且可控的压缩上下文。在四个长上下文QA基准上的实验表明，TaC-C始终优于现有基线。在4倍与8倍压缩比下，其平均F1分别超过最强竞争者17.4%与23.4%，平均精确匹配得分（Exact Match Score，EM）分别超过15.7%与21.7%。