论文
GAD-MambaUNet:具有梯度自适应 DINOv3 蒸馏的方向组 Mamba,用于轻量级医学图像分割
GAD-MambaUNet: Direction-Group Mamba with Gradient-Adaptive DINOv3 Distillation for Lightweight Medical Image Segmentation
摘要
在本文中,我们提出了 GAD-MambaUNet,这是一种轻量级的医学图像分割网络,它结合了高效的局部建模、方向-组状态-空间交互和训练时基础-模型监督。为了改进紧凑分割网络中的上下文建模,我们引入了方向组图选择性扫描(DG-GSS),它将扫描方向和通道组响应视为图节点,并在多方向融合之前启用结构化信息交换。我们进一步纳入了 DINOv3-GAD 监督,其中冻结的 DINOv3 教师在训练期间提供语义指导,梯度自适应蒸馏动态调节蒸馏强度。与代表性的轻量级和通用分割方法相比,GAD-MambaUNet 实现了良好的精度-效率平衡。消融研究进一步验证了 DG-GSS 和训练时 DINOv3-GAD 监督的有效性。在未来的工作中,我们将探索更灵活的师生对齐策略,并将所提出的框架扩展到更多样化的医学分割场景,例如多类和多模态分割任务。