论文
UENR-600K:用于夜间视频除雨的大规模符合物理规律的数据集
UENR-600K: A Large-Scale Physically Grounded Dataset for Nighttime Video Deraining
摘要
夜间视频除雨具有独特的挑战性,因为雨滴会与人工照明相互作用。与白天的白雨不同,夜间的雨呈现出各种颜色,并且看起来局部被照亮。现有的小规模合成数据集依赖于二维降雨覆盖,无法捕获这些物理特性,导致模型无法很好地推广到现实世界的夜间降雨。与此同时,捕捉真实的配对夜间视频仍然不切实际,因为降雨影响无法与传感器噪声等其他退化因素隔离开来。为了弥补这一差距,我们引入了 UENR-600K,这是一个包含 600,000 个 1080p 帧对的大规模符合物理规律的数据集。我们利用虚幻引擎在虚拟环境中将雨模拟为 3D 粒子。这种方法保证了照片级真实感和物理上真实的雨滴,捕捉正确的细节,如颜色折射、场景遮挡、雨幕。利用这些高质量数据,我们通过采用 Wan 2.2 视频生成模型建立了新的最先进基线。我们的基线将除雨视为视频到视频的生成任务,利用强大的生成先验几乎完全弥合了模拟与真实的差距。广泛的基准测试表明,在我们的数据集上训练的模型可以更好地推广到现实世界的视频。项目页面:https://showlab.github.io/UENR-600K/。