论文

事件驱动的刷新和循环内存可减少引用视频对象分割中的陈旧基础

Event-Driven Refresh and Recurrence Memory to Reduce Stale Grounding in Referring Video Object Segmentation

摘要

参考视频对象分割(RVOS)旨在为自然语言指定的对象生成像素精确的掩模序列。 Sa2VA 将多模态大语言模型与 SAM2 相结合,进行grounding分割;然而,它的推理通常基于一小组固定的初始关键帧的查询,然后依赖于传播。在长视频或动态视频中,当对象成分发生变化(例如,干扰物进入或目标消失/重新出现)时,这可能会导致陈旧的基础和持续的误报。我们提出事件驱动刷新+循环内存(EDRRM),这是一种仅在稳定变化点有选择地重新调用 Sa2VA 的增强功能。 EDRRM 触发器使用 EMA 平滑事件分数来刷新边界,该分数是根据具有时间约束的跟踪衍生线索(出生/死亡和粗略组成/布局变化)计算得出的。重现记忆进一步通过 CLIP 相似性检索锚帧,以根据重现事件重新调节模型。在 Ref-DAVIS17、MeViS 和 ReVOS 上进行的实验表明,相对于固定窗口和 FrameDiff-SSIM 基线,EDRRM 实现了具有竞争力的准确度与效率的权衡,以显着降低的平均刷新调用预算保持可比较或优越的 J&F 分数,并减少了误报失败。端到端运行时分析进一步证实,相对于主要的 Sa2VA 推理成本,跟踪、基于 CLIP 的递归匹配和可识别性门引入的开销仍然适中,从而验证了所提出的管道的效率。