论文
DUET:蒸馏 专家的多样性质量二重奏,用于两步视频生成
DUET: A Diversity-Quality Duet of Distillation Experts for Two-Step Video Generation
摘要
近年来,扩散模型已经实现了高质量的视频生成,但迭代采样的高成本阻碍了其实际部署。少步 蒸馏 减轻了这种成本,但暴露了其两个主要范式之间的质量-多样性权衡:轨迹级 蒸馏(例如 sCM)有利于多样性,而分布级 蒸馏(例如 DMD)有利于质量。针对极端的两步视频生成,我们引入了 DUET,它通过专家的噪声级二重奏来协调两种范式:sCM 专家采取高噪声步骤来布置多样化结构,DMD 专家采取低噪声步骤来细化外观细节。由于这两位专家是根据各自的目标进行独立培训的,因此 DUET 回避了损失水平组合的优化困难,并共同提供质量和多样性,而不是用一个人交换另一个人。我们进一步确定中继接口和高噪声级是剩余的瓶颈,并通过 RL 引导的专家自适应来解决它们,从而产生 DUET+。借助 Wan2.1-T2V-1.3B 主干,DUET 将 sCM 的两步质量提升到接近 DMD 的水平,同时保留几乎所有的结构多样性(大约是 DMD 的两倍),而 DUET+ 进一步提高了整体质量,同时保留了这种多样性优势。总之,这些结果将噪声级专家专业化确立为一种简单、有效的范例,用于协调两步视频生成中的多样性和质量。