论文

通过身份注入和保存进行少样本生成模型自适应

Few-Shot Generative Model Adaption via Identity Injection and Preservation

模型训练持续学习

摘要

用有限的数据训练生成模型提出了模式崩溃的严峻挑战。一种常见的方法是在样本很少(少于 10 个)的目标域上调整大型预训练生成模型,称为少样本生成模型调整。然而,现有方法在适应过程中经常会忘记源域身份知识,这会降低目标域中生成的图像的质量。为了解决这个问题,我们提出身份注入和保留(I$^2$P),它利用身份注入和一致性对齐来保留源身份知识。具体来说,我们首先引入一个身份注入模块,它将源域身份知识集成到目标域的潜在空间中,确保生成的图像保留源域的关键身份知识。其次,我们设计了一个身份替换模块,其中包括样式内容解耦器和重建调制器,以进一步增强源域身份保存。我们通过调整身份替换中的特征来强制身份一致性约束,从而保留身份知识。定量和定性实验均表明,我们的方法在多个公共数据集和 5 个指标上比最先进的方法取得了实质性改进。