论文
SlimDiffSR:通过扩散模型实现轻量级、高效的遥感图像超分辨率 蒸馏
SlimDiffSR: Toward Lightweight and Efficient Remote Sensing Image Super-Resolution via Diffusion Model Distillation
摘要
扩散模型最近在图像超分辨率(SR)方面取得了显着的性能,但其高计算成本限制了遥感应用中的实际部署。为了解决这个问题,我们提出了 SlimDiffSR,一种轻量级且高效的基于扩散的框架,用于现实世界遥感图像超分辨率。与依赖固定时间步长的现有单步扩散方法不同,我们首先引入不确定性引导的时间步长分配策略来构建更强大的单步教师模型,其中重建难度与扩散时间步长明确相关,从而实现自适应生成强度。在该教师模型基础上,我们进一步提出了一种针对遥感图像的结构化剪枝策略,该策略系统地删除冗余语义模块,并用轻量级设计替换标准操作,包括频率可分离卷积、方向可分离卷积和查询驱动的全局聚合模块。这些组件明确地利用了遥感数据的独特特征,例如稀疏的高频细节、强方向模式和远程空间依赖性。为了增强知识迁移,我们将最大平均差异 (MMD) 纳入 蒸馏 流程中,以调整教师和学生模型之间的特征分布。对多个遥感基准的大量实验表明,SlimDiffSR 在效率和重建质量之间实现了良好的平衡。特别是,与多步扩散模型相比,它实现了最高200倍推理加速和20倍参数压缩,同时实现了有竞争力的感知质量,并在效率上明显优于现有的轻量级扩散基线。该代码位于:https://github.com/wwangcece/SlimDiffSR。