论文

BurstGP:利用生成先验增强原始突发图像超分辨率

BurstGP: Enhancing Raw Burst Image Super Resolution with Generative Priors

应用与实践内容创作

摘要

突发图像超分辨率(BISR)旨在通过聚合来自多个低分辨率(LR)帧的信息来构建单个高分辨率(HR)图像,依赖于突发中的时间冗余和空间相干性。虽然传统方法取得了令人印象深刻的结果,但它们经常难以处理复杂的纹理和过度平滑。扩散模型,特别是那些在高质量数据上进行预训练的模型,在生成图像和视频超分辨率的真实细节方面表现出了卓越的能力。然而,它们的潜力在 BISR 中仍未得到充分开发,现有方法通常依赖于从头开始训练的特定任务扩散模型并在单帧重建上运行。在这项工作中,我们提出了 BurstGP,一种基于扩散的新型 BISR 解决方案,它利用最新基础模型的生成先验来克服这些问题。特别是,我们在传统 BISR 方法之上构建了多帧感知扩散模型,该模型可以在保真度损失最小的情况下提高图像质量。此外,我们引入了(i)一种新颖的退化感知调节机制,该机制根据输入中估计的退化来控制精细细节的合成,以及(ii)强大的 sRGB 到 lRGB 逆变器,使我们能够利用生成多帧(视频)sRGB 先验,同时使用原始输入和 lRGB 输出图像进行操作。根据经验,我们证明 BurstGP 在数量上(特别是在感知指标方面,包括 MUSIQ 和 LPIPS)和质量上都优于现有的技术水平。特别是,我们提出的方法擅长恢复更丰富的纹理和更精细的结构细节,凸显了 BISR 视频先验相对于传统方法的潜力。