STST-JEPA：用于脑电图自监督学习的浅目标时空联合嵌入预测架构
STST-JEPA: Shallow-Target Spatio-Temporal Joint Embedding Prediction Architecture For EEG Self-Supervised Learning
摘要
脑年龄（从生理记录推断的年龄）是一种新兴的生物标志物，其与实际年龄的偏差可追踪神经和精神负担，而脑电图是一种有吸引力的基础，因为它便宜、便携且时间丰富。然而，脑电图大脑年龄模型必须应对跨站点蒙太奇异质性、小标记群体和主要受试者水平的非平稳性，并且很少有脑电图基础模型被证明能够在实际部署这种生物标记的整个儿科到老年人范围内提供竞争性年龄回归。我们推出了 STST-JEPA，这是一种用于静息状态和任务脑电图的自我监督 Transformer，在来自 Brain.space 和 Healthy Brain Network (HBN) 语料库的 47,703 个跨越 5-81 岁的会话中进行了预训练。该模型将潜在预测目标（根据 EMA-of-tokenizer 目标预测屏蔽词元表示）与辅助信号重建项相结合，应用于时空块屏蔽下的 30 秒多通道窗口。在冷冻预训练嵌入上训练的轻量级注意力探针在 3,367 个会话中实现了 3.06 年年龄回归的最佳保留验证平均绝对误差 (r = 0.924)，而预测平均基线约为 10 年 MAE。通过对模型最后层进行特定于任务的轻量级微调，相同的预训练编码器在公共 NeuralBench x Brain.space EEG 排行榜上实现性别分类（平衡准确度 0.911）、年龄预测（r = 0.749）和精神病理学复合回归（r = 0.215）的排名 1（模型的原生 30 秒窗口）。我们进一步表明，在我们检查的几个任务中，该模型的年龄预测残差与认知效率呈负相关。