论文

CLEF:学习临床语义的EEG基础模型

CLEF: EEG Foundation Model for Learning Clinical Semantics

模型训练预训练

摘要

临床EEG判读需要对完整EEG会话进行推理,并将信号模式与临床情境相整合。现有EEG基础模型大多为短窗口解码而设计,且未纳入临床情境。我们提出CLEF,一个以临床为根基的长上下文EEG基础模型。CLEF将EEG会话表示为3D多锥谱图(multitaper spectrogram)token,使Transformer建模在会话尺度上可行,并通过对比目标将嵌入与神经科医生报告及结构化EHR数据对齐。我们在一个覆盖疾病表型、药物暴露与EEG所见的新基准上评估CLEF,该基准包含234个任务,数据来自超过10.8万名患者的26万余段EEG会话。CLEF在234个任务中的229个上超越既往EEG基础模型,将平均AUROC从0.65提升至0.74。仅用重建的预训练即可超越既往EEG基础模型,而报告与EHR对齐带来进一步提升。留存概念与外部队列实验表明,这些表征能够迁移到所观测对齐目标之外。这些结果支持将会话尺度、临床扎根的表征学习作为有前景的临床EEG基础模型范式。

CLEF:学习临床语义的EEG基础模型:论文配图
图 1:模型性能。 CLEF 跨类别下游表现。前 5 个下游任务的探测性能在每个类别中取平均值。详细任务列于附录 E。