论文

双自适应 SAM3:低秩专家层上的分层路由,实现参数高效的医学图像分割

Dual-Adaptive SAM3: Hierarchical Routing over Low-Rank Expert Layers for Parameter-Efficient Medical Image Segmentation

模型训练参数高效训练

摘要

带概念的分割任何模型 (SAM3) 预示着通过自然语言交互进行开放词汇分割的新范例,为医学图像分析提供了巨大的潜力。然而,有效地将如此强大的视觉语言模型适应多样化和细致入微的医学成像领域仍然是一个关键挑战。 Naive 微调 参数效率低下,而标准专家混合 (MoE) 方法会引入过高的计算开销,限制其临床适用性。为了解决这个问题,我们提出了双自适应 SAM3 (DA-SAM3),这是一种通过双自适应专门化机制实现高分割精度和极端参数效率的新颖框架。我们的第一个适应是任务感知:动态专家路由器(DER),通过联合推理视觉输入和文本概念提示来稀疏地激活最相关的专家,模仿临床咨询过程。我们的第二个改编是参数感知:分解参数化专家(DPE)设计,将每个专家表示为共享的冻结基础(继承自预训练的 SAM3)和轻量级可训练的低秩增量,将 MoE 参数开销减少了 80% 以上。对多个公共医疗分割基准的大量实验表明,Dual-Adaptive SAM3 不仅匹配或超过完全微调的 SAM3 和标准 MoE 基线的准确性,而且比当前最先进的方法实现了 5% 的显着增益,可解释的结果验证了其有效性。该代码位于:https://github.com/Reconsider80/DA-SAM3。