从校准角度重新思考测试时提示词微调目标

测试时提示调整 (TPT) 已成为一种强大的范例，通过多个增强视图上的熵最小化 (EM) 来细化每个测试样本的提示。然而，我们发现标准的基于 EM 的适应存在局限性：它本质上会导致模型做出过度自信的预测，而忽略样本特定的不确定性，从而导致校准显着下降。为了解决这些限制，我们提出了一个新的目标，通过将原始视图预测与通过交叉熵从增强视图导出的目标分布对齐来取代传统的 EM 损失，同时对抗性地合并目标分布的熵以捕获特定于样本的不确定性。此外，为了更好地构建这个目标分布，我们根据置信度将置信感知温度缩放应用于每个增强视图预测，从而锐化置信预测，同时软化不确定预测。该公式允许模型仅在目标分布可靠时增加置信度，同时在反映模糊或冲突的增强视图预测时保留不确定性。跨不同基准的大量实验表明，我们的方法不仅实现了最先进的精度，而且还显着改进了模型校准。