我们可以防御人工智能生成的对现实世界危机事件的视频攻击吗？探测器、发生器和社会传播的系统评估

最近的视频生成器可以真实地描述战争、灾难、公共紧急情况和其他现实世界的危机，从而产生巨大的错误信息风险。然而，现有的基准提供了关于此类设置中检测器和生成器行为的有限证据，包括可检测性如何随生成条件变化、人们如何感知生成的视频以及检测器在社会传播过程中是否保持可靠。为了解决这一差距，我们引入了 RA-Bench，这是一个使用真实视频作为锚点的人工智能生成视频检测基准。 RA-Bench 包含 17,886 个视频，其中包括 10 个社会风险类别的 1,830 个真实视频主播以及来自 4 个开源和 5 个闭源生成器的 16,056 个生成剪辑。基于RA-Bench，我们从三个维度组织我们的评估。我们首先评估七个传统检测器、三个审查设置下的十个零样本多模态模型以及两个专门针对人工智能生成的视频检测进行微调的 MLLM 的检测器泛化能力。在这些方法中，三个检测器系列都没有在 RA-Bench 实例中具有一致的泛化能力。然后我们研究可检测性如何随生成质量、条件信息和种子采样而变化。这些分析表明，生成特性对检测器系列的影响不同，而源级检测模式在种子之间保持稳定。最后，我们研究社会传播过程中人类的真实性判断和探测器的可靠性。我们发现，误导人们的视频对于当前的检测器来说也很困难，而社会传播使检测变得更加困难。总之，这些发现表明，当前的方法很难检测真实的人工智能生成的视频，这凸显了对不断发展的视频生成器稳健的检测器的需求。