超越置信度：LLM推理的稳定性感知测试时适配

测试时适应已成为昂贵的后训练的轻量级替代方案，可提高大型语言模型 (LLM) 在下游任务上的推理能力。预测熵为这种适应提供了模型衍生的信号，引导模型走向更高置信度的推理状态，而无需外部验证者或奖励模型。然而，较高的置信度并不一定意味着正确，因为大语言模型可能会沿着不正确的推理轨迹保持高度的置信度。我们观察到，当置信度在局部扰动下保持稳定时，高置信度推理更有可能是正确的。基于这一观察，我们提出了通过稳定性感知置信度优化（TASCO）进行测试时间适应，这是一个将局部稳定性纳入基于置信度的测试时间适应的框架，同时保持大语言模型冻结。 TASCO 通过在两种替代扰动策略下优化轻量级任务级前缀来实现局部稳定性：随机扰动促进附近扰动前缀引起的轨迹上的分布稳定性，而锐度感知扰动则针对最坏情况的局部敏感性。实验表明，TASCO 提高了不同大语言模型和推理基准的推理准确性和Token效率，而行为分析表明，它在局部扰动下保持稳定的置信度，而不会过早集中模型的预测分布。