论文

FairReL:使用公平感知表示学习的 Deepfake 检测

FairReL: Deepfake Detection using Fairness-Aware Representation Learning

模型训练监督微调与指令调优

摘要

尽管最近的深度造假检测器总体准确率很高,但它们的错误在人口统计亚组中的分布仍然不均匀,某些群体的真实面孔经常被错误地分类为假面孔。现有的公平感知检测器通常会规范整个特征表示,而不识别或控制导致不公平预测的特定组件。这种粗略的干预可能会过度抑制有用的伪造线索,同时将人口结构留在特定于组件的子空间中。为了解决这个问题,我们确定了两个子组敏感组件:多尺度空间特征,编码局部面部和伪造模式,以及 微调 引起的残留特征,使骨干网适应不公平的训练分布。我们提出 FairReL,一种具有公平意识的表示学习框架,针对这两个组件进行专门的人口统计监督。 FairReL 使用 SVD 分解的基础模型主干来隔离 微调 引起的残差表示,并引入两个互补损失。组条件小波解相关 (GCWD) 抑制空间小波子带之间的子组不平衡结构,而子空间局部均值对齐 (SLMA) 则在残差表示中对齐每个真/假类内的子组均值。在 FF++、Celeb-DF、DFD 和 DFDC 上的实验表明,相对于最先进的公平感知检测器,FairReL 将未见数据集 AUC 提高了 3.9%,同时将子组 FPR 差异降低了 10.2%。代码可在 https://github.com/xiaoman89/FairReL 获取。