论文
使用面向不变性的 预训练 驯服基础模型,用于跨信号水平、大脑状态和大脑健康任务的广谱脑电图分析
Taming foundation model with invariance-oriented pre-training for broad-spectrum EEG analysis across signal-level, brain-state, and brain-health tasks
摘要
脑电图 (EEG) 是一种广泛使用的了解人类大脑功能的窗口,但大多数脑电图模型仍然依赖于单数据集一模型的监督范式。最近的脑电图基础模型提供了一条通往可重用表示的途径,但大多数仍然以重建为中心,假设从局部上下文可预测的脑电图内容必然是可转移的神经信息。在这里,我们提出 INCEPT,一种面向不变性的脑电图基础模型,经过超过 11,000 小时的未标记临床脑电图训练。 INCEPT 不是单独优先考虑信号恢复,而是通过相关的脑电图观察来学习表征水平的稳定性,将稳定的神经结构和基本的受试者敏感信息与主导头皮记录的令人讨厌的变异性分开,同时保留受试者、状态和条件辨别信息。我们在涵盖采集后脑电图分析三个级别的十个数据集的广谱基准上评估 INCEPT:信号水平评估、大脑状态解码和大脑健康评估。 INCEPT 在 30 个线性探测指标中的 26 个和 30 个 微调 指标中的 24 个指标上在最新的 EEG 基础模型中排名第一,并且在不同的下游设置中也超过了强大的特定任务专业编码器。客观消融和表征分析进一步表明,面向不变性的 预训练 改善了迁移并组织了主题敏感的神经表征,而不仅仅是重建。这些结果确立了不变性学习作为构建可重复使用的脑电图基础模型的有前途的原则。