论文

CREST:曲率调节的以事件为中心的采样,用于高效的长视频理解

CREST: Curvature-Regulated Event-Centric Sampling for Efficient Long-Video Understanding

上下文与知识上下文工程

摘要

从长视频中选择信息丰富的帧是一个组合问题,现有方法要么通过有效的启发式方法来解决,而无需对查询条件的时间结构进行显式建模,要么通过具有大量预处理成本的多阶段检索管道来解决。我们提出 \textbf{CREST},一种基于查询帧相关性的时间几何的 无需训练 帧选择方法。 CREST 基于这样的观察:随着时间的推移,相关性会表现出结构化的局部变化:显着事件周围的急剧曲率和冗余片段中较平坦的区域。通过使用局部曲率来指导选择,CREST 可以在短暂的决定性事件和缓慢发展的证据中更有效地分配固定的帧预算。在固定的骨干网和帧预算下,CREST 在 LongVideoBench 和 VideoMME 上实现了比 AKS(轻量级相关性覆盖基线)更高的准确率,同时保留了 MIRA(更强的多级检索管道)的 93--95\% 的准确率,而预处理成本仅为 3--4\%。\footnote{代码和实现细节包含在补充材料中,将在接受后公开发布。}在 TempRel(我们用于时间帧选择的诊断基准)上, CREST 比 AKS 相对提高了 6.88%。成对的 LLM 作为法官评估进一步表明,CREST 选择的帧产生了更连贯的帧条件描述,在两个基准测试中的胜率分别为 60.58\% 和 54.50\%。这些结果表明,局部时间几何为长视频帧选择提供了简单有效的基础。