论文

SurgAtlas:包含 2,391 小时开放微创手术的大型手术视频语言数据集

SurgAtlas: A Large-Scale Surgical Video-Language Dataset with 2,391 Hours of Open and Minimally Invasive Surgery

模型评测基准与评测资源

摘要

我们介绍 SurgAtlas,这是迄今为止最大的外科视频语言数据集,包含 15,291 个视频(2,391 小时),涵盖 18 个外科专业和 5,000 多种手术类型,完全来自公开的 YouTube 内容。 SurgAtlas 也是第一个包含大规模开放手术的手术视频语言数据集,包含 6,182 个开放手术视频以及 9,000 多个微创记录,并且是第一个为开放手术视频理解建立标准化基准的数据集。我们还提供了经过专家验证的子集,其中包含跨各种开放和微创手术的经过验证的视觉问答对,作为手术推理的临床基准。与现有的手术视频语言数据集相比,SurgAtlas 提供了最多样化的注释模式之一,结合了片段级描述、步骤和阶段级描述、视频级手术描述以及在分层分类中组织的面向推理的问答对。这些注释是通过自动多层管道构建的,该管道具有基于 LLM 的丰富性和具有明确的视觉证据核验的分阶段 VQA 生成框架。 SurgAtlas 的规模和多样性使得能够训练具有广泛程序覆盖范围的手术基础模型:我们通过两阶段字幕然后指令管道对 Qwen3-VL-8B 进行微调,并在多个已建立的手术基准上实现有竞争力或最先进的结果,包括相位识别、三元组检测和推理问答。更广泛地说,SurgAtlas 提供了一个大型原生公共视频语料库,可以支持未来大规模多模态手术人工智能系统的预训练,并有助于下一代手术基础模型的开发。公开数据集 https://huggingface.co/datasets/filbel/SurgAtlas