论文

MR-JEPA:心脏 MRI 的通用视频基础模型

MR-JEPA: A General Purpose Video Foundation Model for Cardiac MRI

模型训练预训练

摘要

心脏磁共振成像 (CMR) 会产生丰富的序列数据,例如时间电影视频和空间 LGE/映射堆栈,但大多数深度学习方法都会处理单个 2D 切片,从而丢弃这种上下文。我们提出了 MR-JEPA,这是一种用于 CMR 的自监督视频基础模型,它通过小管标记化、时空掩蔽增强和 2D CMR 基础模型的初始化,将 LeJEPA 扩展到 3D 时空输入。与之前仅限于电影数据的 CMR 视频模型不同,MR-JEPA 对来自两个中心的 10,505 名患者的多序列数据(电影、LGE、映射)进行了预训练,没有注释。我们使用统一的多视图门控注意力架构在六个下游任务上评估冻结编码器:左心室射血分数、右心室射血分数、三种心肌应变(GLS、GCS、GRS)和四类疾病检测。 MR-JEPA 在所有五个回归任务上均优于其他比较方法,包括在文本监督的更多数据上预训练的特定领域 CMR 模型和自然视频基础模型,实现了 4.79%(r = 0.764)的 LV EF MAE 和 1.87(r = 0.805)的 GLS MAE,在应变任务上与基线相比 MAE 降低了 21-27%。对于疾病检测,MR-JEPA 实现了 0.868 的宏观 AUG,尽管使用了完全自我监督的预训练目标,但仍与特定领域的基线保持竞争力。这些结果证明了统一视频编码器在临床心脏量化和诊断中稳健、多视图地利用不同 CMR 序列的潜力。