论文
MotionHalluc:在细粒度运动推理中诊断运动幻觉
MotionHalluc: Diagnosing Kinematic Hallucinations in Fine-Grained Motion Reasoning
摘要
跨视频比较中的运动指令生成旨在产生描述查询和参考运动之间差异的校正反馈。然而,现有模型经常生成表现出运动幻觉的指令,无法反映配对视频之间的实际运动学差异。为了系统地研究这些幻觉,我们引入了 MotionHalluc,这是一个用于在配对视频比较中评估运动幻觉的专用基准。 MotionHalluc 包含超过 553 个视频对的 1540 个细粒度问题,沿着三个核心维度评估幻觉:(1) 方向性幻觉、(2) 归因性幻觉和 (3) 时间性幻觉。对最先进的大型多模态模型的广泛评估表明,这些模型对这些幻觉高度敏感。此外,我们提供感知-解析-验证(PPV)作为 无需训练 测量提取和验证基线,将候选指令转换为可执行测量查询,并在推理时提供运动学测量。我们的结果表明,这种简单的测量注入在整个模型中产生平均 10.6% 的性能增益,这表明具有明确定量测量的运动推理是减少跨视频比较中幻觉的关键因素。我们的代码和数据集将在接受后公开发布。