论文
用于冻结跨障碍转移的轻量级语义脑电图基础模型
Lightweight Semantic EEG Foundation Model for Frozen Cross-Disorder Transfer
摘要
大规模脑电图基础模型已证明在神经系统疾病中具有良好的可移植性,但通常需要数百万个参数和大量计算资源。在本文中,我们提出了通用语义脑电图基础模型(USE-FM),这是一种轻量级脑电图基础模型,可通过天普大学医院脑电图语料库(TUEG)上的自监督信号重建来学习可转移的神经表示。预训练后,编码器被冻结,并针对两个临床上不同的下游任务进行评估,即异常脑电图检测 (TUAB) 和癫痫发作识别 (TUEP),使用针对最新脑电图基础模型(包括 LUNA-Base 和 CBraMod)的统一冻结传输协议。 USE-FM 仅用 146 万个参数,大约是现有模型大小的五分之一,就实现了具有竞争力的整体性能,包括在 TUEP(SEN $75.00 \pm 14.14$、F1 $70.37 \pm 4.01$)上的强灵敏度和 F1 分数,同时在 TUAB(AUC $85.24 \pm 5.61$)上保持有竞争力的性能。除了下游分类之外,使用 $k$-means 聚类以及 PCA 和 t-SNE 进行的潜在表示分析表明,USE-FM 学习的有组织的语义 EEG 表示可与更大的基础模型相媲美。这些结果表明,大规模自监督预训练使轻量级架构能够学习可转移的语义脑电图表示,为神经系统疾病的跨疾病分析和未来的临床决策支持提供了计算有效的基础。
