论文

BrainNorm:通过语义图谱预训练了解正常的基础模型

BrainNorm: A Foundation Model that knows Normal via Semantic Atlas Pretraining

模型训练预训练

摘要

我们引入了 BrainNorm,这是一种规范基础模型,在约 66,000 个 T1 加权结构 MRI (T1w sMRI) 扫描上进行了训练和测试。通过利用对不同年龄段的健康人群进行语言图像风格对比预训练,BrainNorm 学习了语义图谱潜在空间 (SAL),其中每次扫描都表示为一组图谱地块嵌入。这会产生特定于地块的健康老龄化模板轨迹,支持年龄一致的模板匹配和相对于受试者实际年龄的局部偏差评分。在 6 个下游队列中,BrainNorm 展示了在直接推理、零样本、少样本和全数据线性探针设置下对 25 种任务设置组合进行泛化评估,这些任务设置组合涵盖年龄估计、大脑年龄差距估计、包裹识别以及单疾病和多疾病分类任务。 SAL 空间中产生的偏差模式使得能够使用逐块异常进行疾病预测的零样本任务。 微调 在下游数据集的仅健康队列上进一步提高了各种任务的性能。在所有分类任务中,BrainNorm 冻结嵌入的线性探测优于在端到端监督下微调的 9 个基线。此外,BrainNorm 在各种神经退行性疾病中发现的局部偏差与临床文献中已确定的神经退行性病理学密切相关。