论文

通过分类器重建将判别跨度作为合成数据效用的预测器

Discriminative Span as a Predictor of Synthetic Data Utility via Classifier Reconstruction

模型评测评测方法与指标

摘要

在许多现实世界的计算机视觉应用中,包括医学成像和工业检测,二元分类任务的特点是阳性样本严重缺乏。一种广泛采用的解决方案是使用应用于负样本的图像到图像变换来生成合成正数据。然而,一个根本性的挑战仍然存在:我们如何可靠地评估此类合成数据是否会提高下游模型的性能?在这项工作中,我们提出了一种几何驱动的指标,可以预测合成数据的效用,而无需 模型训练。我们的方法在预先训练的基础模型的嵌入空间中运行,并通过样本之间的差异向量表示数据集。我们通过测量相对投影误差来评估线性分类器的权重向量是否可以在这些变化所跨越的子空间内表达。直观上,如果合成数据捕获任务相关方向引起的变化,它们的跨度可以近似分类器,从而产生较低的投影误差。相反,糟糕的合成数据无法跨越这些方向,从而导致更高的错误。在多个数据集和架构中,我们表明该指标与在真实负数据和合成正数据混合上训练的 CNN 的下游分类性能表现出很强的相关性。这些发现表明,所提出的指标可以作为评估数据稀缺环境中合成数据质量的实用且信息丰富的工具。