论文
具有基础模型先验的主动学习:班级不平衡下的高效学习
Active Learning with Foundation Model Priors: Efficient Learning under Class Imbalance
摘要
跨图像和文本域的真实数据集通常具有倾斜的类分布和噪声注释的特征,这共同降低了模型性能,特别是在少数类上。在现有的解决方案中,主动学习通过有选择地查询信息最丰富且平衡的样本进行注释,提供了一种有效且高效的范例。我们提出了一种创新的主动学习框架,可以减轻类别不平衡并选择信息最丰富的样本进行注释。利用基础模型先验,我们的算法可以在基础模型和小模型之间进行不平衡感知的共同决策,以解决各个领域的噪声和不平衡标签。我们介绍了第一项在图像和文本域的标签噪声和类别不平衡的双重挑战下系统地探索主动学习的研究。对不平衡数据集的大量实验表明,我们的方法实现了可观的注释节省(与最佳主动学习基线相比,节省了 50% 以上),同时保留了性能和对标签噪声的鲁棒性。