论文

用预算匹配训练对照筛选有效的退化合成数据

Hard, Yet Reducible: Controlled Forward Transfer for Synthetic Degradation Curation

模型训练模型评测应用与实践合成数据鲁棒性、公平性与可信度评测通用理解与问答

摘要

选择合成退化进行密集预测需要估计其训练效用,即它们在有限训练预算下带来的泛化增益。干净和退化的双胞胎共享内容和标签,根据短期训练减少退化引起的过度误差的程度来建议分数。然而,当清洁性能恶化时,这种差距也会缩小。仅衡量退化图像的改进可以避免这种混乱,但它仍然归功于相同数量的清洁训练所产生的进步。我们针对由退化类型和严重程度定义的区域提出\textbf{受控可减少退化间隙}(cRDG)。从一个公共检查点开始,cRDG 运行两个预算匹配的探针,它们仅在一个增强槽位上有所不同,该槽位要么是合成降级,要么是干净增强。分数是相对于干净控制探针的保留降级图像的增益。清洁危害是一个单独的可行性约束。 cRDG 揭示了一个可校正的严重性范围,其中退化训练在以下条件下产生高控制增益 可用预算,并且频带随预测器、起始检查点和训练预算而移动。 \textbf{可约化带的管理}(\method)使用 cRDG 来选择合成数据而不更改预测器。在语义分割和显着对象检测方面,\method{} 在匹配的合成数据预算和训练计划下改进了代表性预测器,扩展到现有的数据生成管道,并保持干净的性能。代码和支持材料将公开发布。

用预算匹配训练对照筛选有效的退化合成数据:论文原图
图 2:CuRB 概述。 (a) 生成退化严重性区域并进行有效性过滤。 (b) 两个匹配的探针从 θ0\theta_{0} 开始,仅在增强槽中不同,其中 ⊕\oplus 表示干净重放流和槽流的并集。 (c) 保留评估产生退化增益 GgG_{g} 和干净损害 HgH_{g}。对两个分裂方向上的 GgG_{g} 求平均值即可得到 cRDG。 HgH_{g} 确定可行性,而可校正带仅用于诊断。 (d) 对可行的正分数区域进行排序,并按排序顺序填充预算 BselB_{\mathrm{sel}},最后部分区域进行 kk 中心采样。 (e) 最终训练在干净数据上从 θ0\theta_{0} 重新开始,并在固定时间表下的合成槽中使用 𝒮⋆\mathcal{S}^{\star} 。