论文
VOR-Bench:人类感知驱动的视频对象去除基准
VOR-Bench: A Human Perception-Driven Benchmark for Video Object Removal
摘要
尽管其在视频对象去除(VOR)中发挥着至关重要的作用,但现有的评估范式面临着两个关键的局限性:可疑的参考以及传统指标与人类偏好之间的不一致。为了应对这些挑战,我们推出了 VOR-Bench,它通过三个集成组件推进了 VOR 评估。首先,我们介绍 VOR 数据集 (VORD),这是第一个提供配对编辑视频和涂鸦蒙版的基准数据集。其独特的优势在于多样化的数据范围,其中包括模型生成的、工具渲染的和相机捕获的数据,确保在现实场景中进行稳健的评估。其次,我们开发了 rMPAF,一种逼真的运动配对视频采集框架。通过结合基于图像的对象去除和微调视频生成模型的优势,rMPAF 自动生成逼真、运动相干的配对视频。最后,我们提出了三个评估维度,并引入了 VOR-MDSM,这是第一个专门为掩模引导 VOR 设计的基于感知驱动的 VLM 的评分模型。它通过覆盖基本的视觉属性并匹配细致入微的人类判断,弥合了算术度量和人类感知之间的差距。大量实验表明,VOR-Bench 产生的评估结果与人类感知密切相关,与主观评估实现了显着的相关性 (\r{ho} > 0.9)。我们将发布 VOR-Bench 及其文档,以确保完全的可重复性。