TTCL：大语言模型推理的测试时校准学习

可靠的大语言模型不仅要给出准确答案，还要表达忠实反映其正确概率的置信度。这种校准对识别不确定预测、支撑现实部署中的可靠决策至关重要。近期研究把校准学习纳入强化学习，用真值正确性监督联合优化答案正确性与口头置信度。但它们依赖标注数据，限制了在实际测试时场景（真值不可得、校准需适配新任务）中的适用性。为此我们提出测试时校准学习（TTCL）：无标签框架直接在未标注目标任务数据上联合适配推理准确率与口头置信度。TTCL从模型的多个自生成响应中为正确性与校准推导自监督信号，使校准学习在测试时无需真值。理论分析确立TTCL为理想校准目标的有界替代。数学推理与事实问答的大量实验表明TTCL跨模型与任务一致改善准确率与校准：基础模型上跨八个基准的平均相对准确率+40.13%、ECE降低+70.80%；对已校准模型在域偏移下进一步改善，尤其当源域校准向目标迁移不佳时；数学到事实QA设置下平均相对准确率+20.35%、ECE降低+53.83%。代码/项目页：https://github.com/tmlr-group/TTCL。