跟踪作为状态：推理跟踪作为长上下文的条件状态 Transformer

Transformer 因果地处理信息，但长上下文推理可能依赖于后来才发现的任务状态。我们通过条件状态更新任务来形式化这种不匹配。对于因果状态更新处理器，在最坏的情况下，首先提供条件所需的内存比最后提供条件所需的内存要少得多。受这一原则的启发，我们引入了 Trace as State。我们使用收集到的推理痕迹作为任务状态的文本代理，并将其放置在新通道的长上下文块之前，从而允许先前导出的信息指导重读。我们对 Trace as State 和 Trace Append 进行了广泛的实验，Trace Append 是一个使用相同任务状态代理但将其放在上下文之后的匹配控件。在三个模型和三个长上下文数据集中，Trace as State 在 27 个报告的模型、任务和指标组合中的 26 个中优于 Trace Append。在 GraphWalks Parent 上，精确匹配将 DeepSeek V4 Pro Preview 从初始传递时的 29.2% 和 Trace Append 时的 43.0% 提升到 Trace 作为状态时的 81.8%，以及 GLM-5.2 时从 66.4% 和 83.2% 提升到 100.0%。这些结果表明，将痕迹放在上下文之前可以改进长上下文推理，同时保留因果 Transformer 结构。