论文

以基础模型实现少样本可迁移心脏 MRI 重建

Beyond Training from Scratch: Foundation Models for Data-Efficient and Generalizable Cardiac MRI Reconstruction

应用与实践行业应用

摘要

心脏磁共振成像重建旨在从欠采样采集中恢复高质量图像,从而实现更快的扫描,同时保持诊断保真度。最近的重建方法通常是从头开始训练的,并且通常需要大量特定于任务的数据,限制了它们在数据稀缺和分布变化下的鲁棒性。在这项工作中,我们研究了预训练的视觉基础模型是否可以作为加速心脏 MRI 重建的有效先验。我们提出了一个重建框架,在基于Transformer的重建架构中集成了冻结和参数高效适应的视觉编码器,包括 CLIP、BiomedCLIP 和 DINOv2。 CMRxRecon2023 和 CMRxRecon2024 基准的大量实验表明,预训练表示在多个加速因子上始终优于从头开始训练的 Transformer。我们进一步评估了有限监督和跨数据集传输下的性能,表明基础模型提供了卓越的数据效率和泛化能力。虽然冻结表示在极低数据情况下特别有效,但当有适量的训练数据可用时,低秩适应 (LoRA) 会产生额外的收益。在评测的骨干模型中,DINOv2的综合性能最强。这些发现凸显了视觉基础模型作为心脏 MRI 重建的稳健且可转移先验的潜力。

以基础模型实现少样本可迁移心脏 MRI 重建:论文原图
图 1:基线 UNETR 架构概述(左)和建议的基础模型重建框架(右)。 UNETR 的划痕训练Transformer编码器被替换为预训练的视觉基础模型(CLIP、BiomedCLIP 或 DINOv2)。来自所有转换器层的特征被融合以形成瓶颈表示,而中间特征为解码器提供多尺度跳跃连接。该编码器在冷冻和 LoRA 适应环境下进行评估,从而能够对心脏 MRI 重建的表示传输进行受控研究。