论文

TOC-SR:图像超分辨率的任务最优紧凑扩散

TOC-SR: Task-Optimal Compact diffusion for Image Super Resolution

模型优化模型压缩

摘要

扩散模型最近在图像恢复任务(包括超分辨率)方面表现出了强大的性能。然而,它们的大模型尺寸和迭代采样过程使得它们在实际部署中计算成本昂贵。在这项工作中,我们提出了 TOC-SR,这是一种通过首先发现紧凑的扩散主干来构建高效的一步超分辨率模型的框架。从十六通道潜在扩散模型开始,我们使用特征生成 蒸馏 构建参数高效的代理块,并使用 epsilon 约束贝叶斯优化执行架构发现,以最大限度地降低模型复杂性,同时保留生成保真度。与扩展扩散模型相比,由此产生的紧凑扩散主干网参数减少了 6.6 倍,GMAC 减少了 2.8 倍。然后,我们调整该骨干网以实现超分辨率,并将扩散过程提炼为单步生成器。实验表明,所提出的方法能够实现高效的超分辨率,同时保持强大的重建质量。