论文
打破 无需训练 基于生成重放的类增量学习的合成实域捷径
Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning
摘要
类别增量学习(CIL)要求模型不断获取新知识,同时避免灾难性遗忘。虽然示例重放很有效,但它引起了对隐私和存储的担忧。因此,生成重放已成为一种可行的替代方案,使用冻结的预训练文本到图像 (T2I) 模型合成旧数据,无需任何额外的训练。然而,我们观察到,在增量训练期间直接将合成的旧类数据与真实的新类数据混合会导致性能显着下降。这个问题源于“领域快捷方式”,其中模型依赖于领域区分特征而不是语义类线索。为了解决这个问题,我们提出了 DREAM ($\underline{\mathbf{D}}$omain-$\underline{\mathbf{R}}$egularized $\underline{\mathbf{E}}$xemplar-free $\underline{\mathbf{A}}$lignment $\underline{\mathbf{M}}$odel),它使用 无需训练生成器来合成旧类数据,并通过子空间校正和正交投影消除域快捷方式,同时通过真实锚定原型正则化增强语义对齐。对 4 个数据集的大量实验表明,DREAM 优于现有的无范例 CIL 方法,并实现了最先进的性能。我们的源代码可在 https://github.com/Light-ZhangTao/DREAM 获取。