论文
具有动态收缩的 Von Mises-Fisher 混合模型，可实现真实的测试时间转换
Von Mises-Fisher Mixture Model with Dynamic Shrinkage for Realistic Test-Time Transduction
摘要
一系列方法旨在提高视觉语言模型 (VLM) 在测试时的性能。其中，转导由于其强大的兼容性和效率而成为一种有前途的范式。然而，现实的评估往往涉及高度不平衡的类别分布，这会导致性能下降甚至崩溃。在这项工作中，我们从惩罚似然估计（PLE）的角度系统地重新审视转导，表明具有 KL 散度锚项的 PLE 自然会在先前锚点和经验估计之间产生自适应收缩行为。从这个角度来看，传导方法的脆弱性可归因于缺乏锚定机制和收缩强度的静态建模。因此，我们提出了 Von Mises-Fisher 模型与动态收缩的混合 (MOON)。 MOON 建立在 von Mises-Fisher 分布的混合之上，用于对单位超球面上的特征表示进行建模。为了处理不平衡问题，MOON 在实例和类级别使用零样本先验动态调整收缩强度。因此，它可以抑制不可靠的分配并防止来自离群值类的有害更新，从而减轻负迁移。 MOON 与模型无关，无需训练，并且不需要特定于任务的超参数调整。大量的实验进一步验证了MOON在性能和效率上的优势。我们的代码可在 https://github.com/walawaalagoose/MOON 获取