论文
3D 脑 MRI 的屏蔽和预测自我监督基础模型
Masked and Predictive Self-Supervised Foundation Models for 3D Brain MRI
摘要
自监督基础模型在医学成像领域显示出强大的前景。然而,现有的 MRI 基础模型研究主要强调分割和密集预测任务,而针对基于 MRI 的疾病检测的自监督基础模型的系统研究仍然有限。在这项工作中,我们研究了基于 MRI 的疾病检测的两种主要自监督预训练范例:通过掩码自动编码器 (MAE) 的基于重建的学习和通过联合嵌入预测架构 (JEPA) 的预测表示学习。我们通过为 MAE 引入一种新颖的谱域重建损失来研究辅助目标的作用,以增强对细粒度解剖结构的敏感性,并通过在我们的 JEPA 框架中集成方差-协方差正则化(VCR)来鼓励去相关的潜在表示。我们的模型在对比不可知的环境中对异构单对比 MRI 体积进行预训练,没有模态串联。在五个下游疾病检测任务中,我们的结果强调了自我监督目标设计对于医学基础模型预训练的重要性,表明每个目标的下游效益取决于其与任务结构的相关性。具体来说,当下游判别信号以强高频解剖结构为特征时,谱正则化产生最大的改进,而当判别信息跨越多个去相关的特征维度时,协方差正则化是最有益的。具有谱域监控的 MAE 始终能够实现基于 MRI 的疾病检测的卓越下游性能。这些发现表明,医学成像中的自我监督目标编码了特定的偏差,其下游效益从根本上取决于任务的结构。