论文

Shedding Light:评估生成图像模型中的光照理解的基准

Shedding Light: A Benchmark for Evaluating Lighting Understanding in Generative Image Models

模型评测基准与评测资源

摘要

准确的照明建模对于逼真的图像合成和场景理解至关重要。然而,很少有人探讨图像生成模型是否擅长这项任务,或者物理合理性是否仍然是它们面临的关键挑战。显然,真实图像合成已经取得了重大进展,但模型是否真正以物理上准确的方式理解光照?为了回答这个问题,这项工作提出了一个基准来评估生成模型的照明理解和协调能力。我们的主要见解是,评估此类模型的照明理解只需要测试它们将新物体插入真实照片中的效果,同时保持一致的照明。为此,我们使用多照明数据集,其中包含用作“光探针”的简单对象的图像,并提示模型将同一对象修复到原始图像上,然后将生成的结果与 真值 光探针进行比较。然后,我们估计修复探头的照明方向、颜色和辐射分布,从而提供照明精度和光度真实感的定量测量。我们的工作建立了一个可扩展的评估协议,以系统地评估生成模型捕捉和再现现实世界照明的效果,为任何未来模型的光度精度基准测试提供基础。所有代码和数据均可在 https://lvsn.github.io/SheddingLight/ 获取。