论文
用预算匹配训练对照筛选有效的退化合成数据
Hard, Yet Reducible: Controlled Forward Transfer for Synthetic Degradation Curation
摘要
选择合成退化进行密集预测需要估计其训练效用,即它们在有限训练预算下带来的泛化增益。干净和退化的双胞胎共享内容和标签,根据短期训练减少退化引起的过度误差的程度来建议分数。然而,当清洁性能恶化时,这种差距也会缩小。仅衡量退化图像的改进可以避免这种混乱,但它仍然归功于相同数量的清洁训练所产生的进步。我们针对由退化类型和严重程度定义的区域提出\textbf{受控可减少退化间隙}(cRDG)。从一个公共检查点开始,cRDG 运行两个预算匹配的探针,它们仅在一个增强槽位上有所不同,该槽位要么是合成降级,要么是干净增强。分数是相对于干净控制探针的保留降级图像的增益。清洁危害是一个单独的可行性约束。 cRDG 揭示了一个可校正的严重性范围,其中退化训练在以下条件下产生高控制增益 可用预算,并且频带随预测器、起始检查点和训练预算而移动。 \textbf{可约化带的管理}(\method)使用 cRDG 来选择合成数据而不更改预测器。在语义分割和显着对象检测方面,\method{} 在匹配的合成数据预算和训练计划下改进了代表性预测器,扩展到现有的数据生成管道,并保持干净的性能。代码和支持材料将公开发布。
