论文
MetaSR:用于生成超分辨率的内容自适应元数据编排
MetaSR: Content-Adaptive Metadata Orchestration for Generative Super-Resolution
摘要
我们研究现实场景中的生成超分辨率(SR),其中内容和降级因领域、流派和细分而异。例如,图像和视频可以在文本叠加、快速运动、流畅的卡通和低光面孔之间交替,每种都受益于不同形式的辅助信息。现有的元数据引导的 SR 方法通常使用固定的调节设计,当有用的线索依赖于内容并且传输预算有限时,这种设计并不是最优的。我们提出了 MetaSR,一个基于 Diffusion Transformer (DiT) 的框架,它选择并注入与任务相关的元数据,以在资源限制下指导 SR。具体来说,我们使用 DiT 自己的 VAE 和 Transformer 主干来融合异构元数据,并采用高效的 蒸馏 策略来实现一步扩散推理。跨不同内容桶和降级机制的实验表明,MetaSR 的 PSNR 优于参考解决方案高达 1.0~dB,同时在匹配的质量下实现高达 50\% 的传输比特率节省。我们在速率失真优化 (RDO) 框架下评估这些增益,该框架共同考虑了发送方比特率和接收器/显示质量指标(例如 PSNR 和 SSIM)。