论文
Curia-MAE:用于 3D 医学图像分割的多模态多解剖 MAE 预训练
Curia-MAE: Multi-Modal Multi-Anatomy MAE Pre-Training for 3D Medical Image Segmentation
摘要
放射学基础模型学习可转移的表示,可以通过仅训练冻结编码器顶部的小层来适应新任务。然而,诸如 3D 分割之类的密集预测任务在其评估中的代表性不足,并且由于编码器保持冻结,预训练模型仍然达不到 nnU-Net(从头开始训练的最先进的参考)。为了弥补这一差距,我们使用稳健的重建目标、特征正则化器和局部全局相似性目标来扩展卷积 MAE 预训练。使用这种方法,我们提出了 Curia-MAE,一种多模态、多解剖学 MAE 模型,在覆盖大量解剖部位的 300,000 张 CT 和 MRI 图像上进行了预训练。在八个以解剖学和病变为中心的分割基准上,Curia-MAE 在强大的 MAE 基线上提高了冻结编码器性能,同时在完全微调下保持竞争力,并在标记数据稀缺的病变任务上表现出色。这些结果表明,单个冻结编码器可以在不同的分割任务中重复使用,从而降低在临床工作流程中调整和部署此类模型的成本。 Curia-MAE 预训练模型权重已在 https://huggingface.co/raidium/Curia-MAE 上公开发布。