论文

ReMaD:用于分类与分布外检测的免调参领域适配

ReMaD: Tuning-free Domain Adaptation for Classification and Out-of-Distribution Detection

模型评测鲁棒性、公平性与可信度评测

摘要

我们引入了降阶马哈拉诺比斯距离 (ReMaD),这是一种基于距离的新颖原型细化,可使用不带微调的预训练模型进行分类和分布外 (OOD) 检测。我们使用目标数据集的嵌入来拟合模型的 潜空间 中的闭合形式分布统计数据,它可以对分布内样本进行分类并检测 OOD 样本,所有这些都无需训练或 OOD 数据的先验知识。基于原型分类和 OOD 检测,我们分析了大型预训练模型在处理新数据集时的分布特性;基于此分析,我们对 Mahalanobis Distance 进行了简单修改,通过删除未使用的特征来使模型的 潜空间 分布适应新域,而无需其他适应过程所需的微调或超参数搜索。我们通过在四个目标数据集上进行测试,证明了这种方法的有效性,可以使现有的大型预训练图像嵌入模型适应其训练能力之外的新分类领域,并在分类和 OOD 检测方面具有竞争性的性能。