论文
作为有损压缩的少步生成模型
Few-step Generative Models as Lossy Compression
摘要
DiffC 提供了一种重用预训练扩散模型进行有损压缩的原则性方法,但其编码和解码过程仍然很慢,因为它们需要许多离散的前向和反向步骤。我们研究了几步生成模型——整流流、一致性轨迹模型(CTM)和平均流——是否可以在相同的反向信道编码(RCC)框架内被转换为编解码器。主要挑战是 RCC 需要后验和共享分布参数,而这些模型没有明确参数化中间条件分布。对于整流流和平均流,我们使用速度参数化和扩散式去噪参数化之间的等价来推导 RCC 所需的量。对于从 EDM 中提炼出来的 CTM,我们采用 EDM 噪声参数化以及发送器的局部高斯近似和中间状态的共享分布。这产生了概念验证的概率公式,可以使用预先训练的几步生成模型进行压缩,而无需重新训练。在低分辨率基准测试中,生成的编解码器减少了编码和解码时间,并提高了低比特率状态下的真实感。