Curia-2：扩展放射学基础模型的自我监督学习

医学成像的快速发展推动了基础模型 (FM) 的发展，以减少放射科医生日益增长的、不可持续的工作量。虽然最近的 FM 已经展示了大规模 预训练 对 CT 和 MRI 分析的强大功能，但仍有很大的空间来优化这些模型如何从复杂的放射体积中学习。这项工作以 Curia 框架为基础，引入了 Curia-2，它显着改进了原始 预训练 策略和表示质量，以更好地捕获放射数据的特异性。所提出的方法能够将架构扩展到十亿参数的 Vision Transformer，这标志着多模态 CT 和 MRI FM 的首次应用。此外，我们通过将 CuriaBench 扩展和重组为两个不同的轨道来形式化对这些模型的评估：为基于切片的视觉模型量身定制的 2D 轨道和用于体积基准测试的 3D 轨道。我们的结果表明，Curia-2 在以视觉为中心的任务上优于所有 FM，并且在临床复杂任务（例如寻找检测）上与视觉语言模型竞争。权重将公开以促进进一步的研究。