论文

AttDiff-GAN:用于面部属性编辑的混合扩散-GAN 框架

AttDiff-GAN: A Hybrid Diffusion-GAN Framework for Facial Attribute Editing

模型架构混合架构

摘要

面部属性编辑旨在修改目标属性,同时保留与属性无关的内容和整体图像保真度。现有的基于 GAN 的方法提供了良好的可控性,但常常遇到样式代码和属性语义之间的弱对齐问题。基于扩散的方法可以合成高度逼真的图像;然而,它们的编辑精度受到不同属性之间语义方向的纠缠的限制。在本文中,我们提出了 AttDiff-GAN,这是一种将基于 GAN 的属性操作与基于扩散的图像生成相结合的混合框架。这种集成的一个关键挑战在于一步对抗性学习和多步扩散去噪之间的不一致,这使得有效的优化变得困难。为了解决这个问题,我们通过引入特征级对抗学习方案来学习显式属性操作,然后使用操作的特征来指导图像生成的扩散过程,同时消除对基于语义方向的编辑的依赖,从而将属性编辑与图像合成解耦。此外,我们通过引入 PriorMapper(将面部先验合并到样式生成中)和 RefineExtractor(通过 Transformer 捕获全局语义关系以实现更精确的样式提取)来增强样式属性对齐。在CelebA-HQ上的实验结果表明,所提出的方法在定性和定量评估方面都比最先进的方法实现了更准确的面部属性编辑和更好的非目标属性保存。