论文
EventPrune:级联事件辅助词元修剪,用于高效的第一人称动态空间推理
EventPrune: Cascaded Event-Assisted Token Pruning for Efficient First-Person Dynamic Spatial Reasoning
摘要
第一人称动态空间推理需要模型跟踪连续运动和精确的几何结构,但基于 Transformer 的 Video-LLM 的二次注意力成本使得密集的视觉标记的计算成本昂贵。现有的标记修剪范例主要依赖于离散的静态快照,无法保留推理所必需的运动和几何线索。我们提出事件级联修剪(ECP),据我们所知,这是第一个 无需训练 框架,该框架利用事件摄像机的高频运动线索作为引导词元选择之前的连续事件引导运动。 ECP 结合了三个阶段:用于锚定运动信息关键帧的事件触发因果采样、用于抑制事件不活动视觉标记的事件引导运动显着性过滤、以及用于通过运动显着动态来校准空间注意的事件注意排序融合。 ECP 的视觉词元减少了 80%,其性能优于全词元基线(37.62% vs. 36.31%),同时实现了 1.89 倍的推理加速和 52% GFLOPs 减少。我们进一步介绍了 ESR-Real,这是第一个用于第一人称空间推理的现实世界 RGB 事件基准,其中 ECP 比全词元基准提高了 2.68 个百分点的准确性。