论文
用于零次手术相位识别的大小模型协作
Large-Small Model Collaboration for Zero-Shot Surgical Phase Recognition
摘要
用于手术相位识别的特定于任务的轻量级模型擅长捕获时间动态,但在域转移下泛化能力较差。相反,手术基础模型(FM)通过大规模预训练提供了卓越的可迁移性,但它们缺乏明确的时间模型,通常会产生时间上不一致的预测,从而导致性能下降。为了利用这两种范式的互补优势,我们提出了 \textbf{La}rge-\textbf{S}mall \textbf{T}emporal 适应(\textbf{LaST}),这是一种新颖的大小协作框架,可以实现对未知临床领域的零样本适应。在 LaST 中,FM 通过生成用作初始弱监督的帧级阶段先验来启动管道。为了有效地利用这些噪声相位先验,我们引入了一种迭代时间细化方案,该方案集成了动态质量控制以过滤可靠的预测和双模型交叉学习以减轻确认偏差。同时,轻量级模型利用其固有的时间建模能力逐步纠正不一致的预测并提高迭代的整体准确性。最后,采用循环重放策略来闭合循环:将精细、更准确的预测用作后续迭代的升级监督信号,从而促进标签质量和模型能力的自我强化进化。大量实验表明,LaST 实现了对看不见的领域的稳健适应,可实现零样本手术相位识别,准确度比基线 (PeskaVLP) 高出 24.85\%-43.17\%,甚至超越完全监督的线性探测和几种最先进的少样本方法。代码将在 https://github.com/YIYIZH/LaST 发布。