论文
学习适应和校准：医学 VLM 中少样本不确定性预测的分数分布对齐
Learning to Adapt and Calibrate: Score Distribution Alignment for Few-Shot Uncertainty Prediction in Medical VLMs
摘要
使用保形预测的医学视觉语言模型（VLM）的不确定性估计由于其无分布的覆盖保证而受到越来越多的关注。然而，标准共形预测依赖于校准和测试数据之间的可交换性，并且通常需要足够大的校准集才能获得可靠的覆盖范围。这些假设在少样本传输设置中很难满足，其中只有一个小的标记支持集可用于使预训练的 VLM 适应新的医疗任务，而未标记的查询集用于评估。支持集上的监督 微调 会更改模型参数，从而改变不合格分数分布，破坏校准样本和查询样本之间的可交换性，并导致分布偏移下的覆盖范围不可靠。现有的转导共形适应方法通常通过避免监督更新来保持有效性。虽然这有助于维持保形假设，但它没有充分利用稀缺的标记支持数据并限制任务适应，而任务适应是小样本学习的主要目标。在这种情况下，保形预测应充当支持适应模型的不确定性估计层，而不是阻止适应本身。为此，我们提出了AlignCP，一个在不可交换性下协调有监督的小样本适应和共形不确定性估计的框架。 AlignCP 学习重新加权的校准分布，以减少标记支持集和未标记查询集之间的分数水平差异。通过对齐一维不合格分数分布，AlignCP 旨在缩小由适应引起的覆盖差距，而不需要查询标签。