论文
MIND:通过潜在流形解耦解耦模型引起的标签噪声
MIND: Decoupling Model-Induced Label Noise via Latent Manifold Disentanglement
摘要
由预先训练的专家和基础模型驱动的自动注释学习范式主导着数据密集型应用程序。然而,它引入了一个关键的挑战:模型引起的标签噪声。与经典鲁棒学习中的随机噪声不同,这种噪声源于注释器归纳偏差,表现为与局部特征流形紧密耦合的系统误差。依赖全局转换矩阵的现有方法不适合这些结构模式,而学习特定于实例的矩阵在数学上仍然很困难。我们提出了模型诱导噪声去耦(MIND),这是一个解决这一困境的理论框架。我们证明,高维噪声流形可以通过潜在流形解耦解耦为易于处理的、依赖于子空间的组件。具体来说,我们的潜在解耦估计器 (LDE) 动态地将样本投影到具有一致误差模式的潜在结构簇中,从而在没有 真值 锚点的情况下促进噪声识别。为了严格评估鲁棒性,我们采用了分层协议:从 CIFAR-100 上的受控噪声转向大规模现实世界 3D 数据集(S3DIS、ScanNet)上的结构应力测试,其中错误模式与几何流形明确耦合。根据经验,MIND 在这些复杂的基准上显着优于最先进的方法,并有效地纠正了视觉语言模型(例如 OpenSeg)的零样本幻觉,凸显了其作为基础模型的强大 蒸馏 框架的潜力。