论文
以基础模型实现少样本可迁移心脏 MRI 重建
Beyond Training from Scratch: Foundation Models for Data-Efficient and Generalizable Cardiac MRI Reconstruction
摘要
心脏磁共振成像重建旨在从欠采样采集中恢复高质量图像,从而实现更快的扫描,同时保持诊断保真度。最近的重建方法通常是从头开始训练的,并且通常需要大量特定于任务的数据,限制了它们在数据稀缺和分布变化下的鲁棒性。在这项工作中,我们研究了预训练的视觉基础模型是否可以作为加速心脏 MRI 重建的有效先验。我们提出了一个重建框架,在基于Transformer的重建架构中集成了冻结和参数高效适应的视觉编码器,包括 CLIP、BiomedCLIP 和 DINOv2。 CMRxRecon2023 和 CMRxRecon2024 基准的大量实验表明,预训练表示在多个加速因子上始终优于从头开始训练的 Transformer。我们进一步评估了有限监督和跨数据集传输下的性能,表明基础模型提供了卓越的数据效率和泛化能力。虽然冻结表示在极低数据情况下特别有效,但当有适量的训练数据可用时,低秩适应 (LoRA) 会产生额外的收益。在评测的骨干模型中,DINOv2的综合性能最强。这些发现凸显了视觉基础模型作为心脏 MRI 重建的稳健且可转移先验的潜力。
