论文

展平连接组谱:FC 谱滤波器为 fMRI 编码器引入预训练目标

Flattening the Connectome Spectrum: A Spectral Filter for FC Induces a Pretraining Target for fMRI Encoders

模型训练预训练

摘要

自监督预训练重塑了语言和视觉的预测,大脑基础模型(BFM)继承了它的承诺。从大型未标记语料库中学习的表示应该捕获个体的功能动态并在群体中进行概括。然而,在功能连接 (FC) 矩阵上拟合的核岭回归 (KRR) 仍然比我们测试的任何 BFM 更准确地预测个体表型。在本文中,我们表明 KRR 由 FC 的特征值加权,而 FC 的特征值在表型预测中被错误校准。我们应用高效的光谱滤波器来重新校准每个受试者的 FC 矩阵的特征值,使模型能够利用更多的个体间方差。在我们测试的 5 个数据集、11 个分区和 6 个预测目标中,我们匹配或超过了 KRR 基线。基于这一发现,我们随后在来自 162 个开放数据集的约 4,000 小时的 fMRI 上预训练了一个小型编码器模型,从而将记录片段的嵌入与重新校准的连接体之间的嵌入之间的成对相似性进行对齐。我们的模型的性能与我们测试的 6 个已发布的 BFM 中最好的模型相当,但参数却少了一个数量级。我们的编码器在短扫描和较小的队列中比 FC 表现更好,尤其是在指纹识别方面。我们发布了经过预处理和分割的预训练模型权重、代码和预训练数据。