论文
新颖的主张还是似曾相识?重新思考多模式自动事实核查的“无污染”动态评估
Novel Claim or Déjà Vu? Rethinking "Contamination-Free'' Dynamic Evaluation for Multimodal Automated Fact-Checking
摘要
多模式自动事实核查 (MAFC) 通过检索外部证据并进行推理来验证主张。然而,大多数现有的静态基准都有污染的风险:它们主要由过时的声明组成,可以使用 LLM 的内部知识进行验证,无需外部证据。这可能会夸大性能估计,并且无法反映需要最新信息的新颖声明的真实能力。为了解决这个问题,新兴的动态基准收集在 LLM 的知识截止日期之后发布的声明,假设它们未被污染。这项工作通过实证研究最先进的 (SOTA) 静态 AVeriTeC 基准和我们新构建的动态 ClaimReview2025Q4 基准中的污染风险及其对 MAFC 评估的影响,重新审视了这一假设。我们的实验得出了 16 项发现,突出了三个关键结果:(1)动态评估减少但没有消除污染风险,因为 17.09\%--29.30\% 的截止后索赔仍然可能受到污染; (2)许多新发表的主张可以直接或通过综合截断前的多个公开知识来验证; (3) 污染会导致 MAFC 性能出现统计上显着的膨胀,使 Macro-F1 提高高达 11.34 点,并扭曲系统排名。根据这些发现,我们在严格污染控制的环境下重新评估 SOTA LLM。我们的研究为值得信赖的 MAFC 评估提供了实用指南。