自回归推理的内在稳定性极限：对长程执行的结构性后果

大语言模型（LLM）展现出卓越的推理能力，但其性能在长程任务中常常急剧恶化，在超过一定规模后出现系统性崩溃。常规解释主要将这一现象归因于任务复杂性，例如组合搜索爆炸或长期贡献归因难题。本工作认为这些解释并不完整：即使在没有语义歧义的线性、无分支任务中，自回归执行也受制于一个内在的稳定性极限。我们提出，长程推理的根本约束源于自回归生成过程中的过程级不稳定，而不仅仅来自搜索或任务复杂性，并将长程推理重构为一个结构性治理问题。我们推导出定理 A，表明单路径自回归推理中的决策优势随执行长度呈指数衰减，为可维持的推理链设定了根本边界。这一结果蕴含一个结构性推论：稳定的长程推理需要离散分段，这自然会催生有向无环图（DAG）等类图执行结构。在合成环境与真实 TextWorld 任务中的实证研究揭示了与理论预测一致的可观测性能断崖。我们的发现为长程推理失败提供了动力学视角，并指出纯粹自回归架构在维持长期连贯性上的新局限。此外，我们强调短程评估协议可能掩盖结构不稳定性，这预示未来推理系统可能从扩展规模转向结构化治理。