编译，不要记忆：用于上下文学习的上下文编译架构 (CCA)

大语言模型 (LLM) 越来越多地处理上下文学习 (ICL) 任务，其中一个长而新颖的上下文定义了一系列问题的规则、知识和输出模式。在根据上下文的每个细节进行评分的基准上，即使是强大的开放权重模型也只能通过 12-16% 的任务：单个被忽视的规则会导致整个响应失败。我们认为这种脆弱性是结构性的：占主导地位的“阅读和推理”范式要求模型在一次前向传递中提取、规划、生成和自我验证。因此，我们询问显式上下文编译是否可以解决这个问题，它与现有的长上下文策略（要点检索、多智能体自我博弈）相比如何，以及由此产生的利用优势在任务结构和模型规模上的体现。我们提出了上下文编译架构（CCA），其核心新颖性是具有固定槽（rules.{must_do、must_not、conditional}、output_spec、available_tools、data_profile）的类型化中间表示（IR），任何散文上下文都被编译到其中一次；可执行验证器和违规门控纠正循环作为下游结果。在 CL-bench（跨 4 个开放基础模型的 1,899 项任务）上，CCA 在每个基础模型上都优于普通提示和两个长上下文基线（ReadAgent-P、Ctx2Skill），将 Kimi K2.5 从 15.4% 提升到 21.4%，收益集中在规则密集的子类别上。代码和缓存补全可在 https://github.com/TonyQJH/cca-emnlp2026 上找到。