论文
MedCore:MedSAM 的边界保留医疗核心修剪
MedCore: Boundary-Preserving Medical Core Pruning for MedSAM
摘要
SAM 和 MedSAM 等医学分割基础模型提供了强大的提示驱动分割,但它们的图像编码器对于许多临床环境来说仍然太大。压缩在医学中也存在风险,因为模型可以在保持高 Dice 的同时失去边界保真度。我们提出了 MedCore,一种 MedSAM 的结构化修剪框架。主要思想是保留两种结构:在 SAM 到 MedSAM 适应过程中变得重要的结构,以及具有高边界杠杆的结构。我们通过双重干预评分来识别第一种类型,该评分将组归零与重置为原始 SAM 权重进行比较。我们通过边界感知费舍尔估计来识别第二种类型。我们还引入了边界杠杆原理,该原理表明压缩引起的边界位移由边界上的 logits 扰动除以 logits 空间梯度来控制。这一原理解释了为什么即使 Dice 保持较高水平,边界指标也会降低。在息肉分割基准上,MedCore 将参数减少了 60.0%,FLOP 减少了 58.4%,同时在恢复 微调 后实现了 Dice 0.9549、Boundary F1 0.6388 和 HD95 5.14。它还达到了 86.6% 的参数减少和 90.4G FLOPs,具有很强的边界质量。我们的分析进一步表明,MedSAM 处于头部脆弱边界状态:头部修剪步骤的 95% 边界杠杆比 MLP 修剪步骤大 2.887 倍,并且这种 logits 级别的效果与 BF1 和 HD95 退化一致。我们的代码可在 https://github.com/cenweizhang/MedCore 获取。