论文
SurgLQA:可扩展的长视野手术视频问答
SurgLQA: Scalable Long-Horizon Surgical Video Question Answering
摘要
手术视频问答 (VideoQA) 为动态术中解释提供了一个有前途的范例,可在临床环境中实现实时决策支持和上下文感知检索。然而,现有的方法主要局限于图像或短片,限制了它们在扩展的手术工作流程中模拟长期程序动态和因果依赖性的能力。为了应对这一挑战,我们提出了 SurgLQA,这是一种用于可扩展手术推理的统一长视野 VideoQA 框架。该框架结合了忠实时间整合(FTC),它利用内在的时间线索来构建紧凑的远程表示,同时保持细粒度的时间保真度。此外,我们开发了基于时间的多策略缩放(TMS),这是一种自适应测试时间推理范式,可以在基于时间的上下文中战略性地调整策略级推理能力。为了便于系统评估,我们重建了长期结肠镜检查 VideoQA 基准 Colon-LQA,并对 Colon-LQA 和 REAL-Colon-VQA 进行了广泛的实验。实验结果表明,我们的方法在基于时间的推理的远程推理中实现了一致的性能提升。代码链接:https://github.com/RascalGdd/SurgLQA。