迷失于上下文：应对大语言模型中的上下文焦虑

传统观点认为，推理模型是在问题超出其能力时才会失败。然而，我们发现前沿推理模型有时具备解决问题的必要能力，却因过早的自我怀疑而失败——这一现象非正式地被称为上下文焦虑（context anxiety）。我们对上下文焦虑进行了首次系统研究，证明其部分源于模型无法准确估计完成一项任务所需的token数量。我们还表明，当模型在感知到的约束下运行时，上下文焦虑会导致实际的效率损失。在此分析的基础上，我们进一步表明，模型可以学会在不表现出上下文焦虑的情况下解决长程问题的替代策略，这意味着性能提升或许不必通过扩大模型能力，而可以通过改善模型准确评估并适应自身局限的能力来实现。