论文

NARU:日本超长视频叙事演变和文化细微差别理解的基准

NARU: A Benchmark for NARrative Evolution and Cultural Nuance Understanding in Japanese Extreme Long Video

模型评测基准与评测资源

摘要

长篇视频理解涵盖的任务不仅仅是检索孤立的事件,还包括跟踪不断发展的叙事和解释可能仍然隐含的社会意义。然而,现有的基准很少联合评估这些能力,特别是在高语境、非英语媒体中。为了解决这一差距,我们引入了 NARU,这是一个旨在评估日本长视频中的叙事演变和文化理解推理的基准。 NARU 包含 1,481 个问题,涉及 155 个视频,总计 146.8 小时,涵盖四个叙事和五个文化维度。为了构建这种规模的基准,我们提出了一种基于分层内存的注释管道,将原始视频转换为结构化事件、叙事和文化注释,然后通过面向任务的合成和迭代快捷方式删除来生成问题。构建过程包括两个母语验证阶段,涉及 68 个注释者。对八种模型配置的评估揭示了长程叙事整合和文化推理方面的重大局限性。通过揭示这些持续存在的差距,NARU 为开发能够可靠地解释长格式、高上下文视频的 MLLM 提供了一个系统测试平台。