通过基于扩散的解缠结进行双分支交叉投影去偏

在有偏差的数据集上训练的基础模型通常依赖于目标标签和非因果属性之间的虚假相关性，导致对少数群体的泛化能力较差。由于两个基本问题，消除偏差仍然具有挑战性。首先，当组标签不可用时，现有的组无监督方法通常从模型行为中隐式推断虚假属性，从而难以识别在语义上与现实世界偏差一致的虚假因素。其次，即使有伪杂散监督，大多数现有的去偏方法也遵循在单个共享特征空间内运行的单分支设计，其中目标属性和杂散属性本质上是纠缠在一起的。为了解决第一个挑战，我们引入了置信引导偏差概念挖掘（CBCM），它利用扩散解缠的、基于语义的概念表示来识别可靠的虚假属性，而无需属性注释。为了解决第二个挑战，我们提出了双分支交叉投影去偏置（DCD），这是一种即时调整框架，它将目标和虚假表示分成两个分支，并通过交叉零空间投影显式删除虚假信息，同时保留目标相关语义。对四个基准数据集的大量实验表明，我们的方法在无监督组方法中实现了最先进的最差组准确度，同时最多调整了 0.22% 的模型参数。源代码可在补充材料中找到。