论文
NSP:减少 EEG 基础模型的定位捷径
Neural State Prediction: Obstructing Shortcut Learning in EEG Foundation Models
摘要
脑电图基础模型越来越多地使用屏蔽预测来从未标记的记录中学习,但优化这一目标并不能确保可转移的神经表示。一个核心挑战是稳定的位置线索和局部相关性可以使屏蔽区域可预测,而无需集成分布式神经上下文。为了减少对低信息预测路径的依赖,我们引入了神经状态预测(NSP),这是一种限制预测目标和可用上下文的潜在预测框架。 NSP 使用由指数移动平均线 (EMA) 更新的目标编码器来定义潜在监督。身份残差消除了与目标的通道身份和相对时间相关的附加效应,而拓扑分离的上下文从可见输入中排除了它们的直接空间和时间邻域。我们使用来自 TUEG 的 220 万个 EEG 片段对 NSP 进行预训练,并在涵盖临床诊断、睡眠分期、情绪识别、运动想象、事件相关电位、认知状态解码和语言检索的 30 个下游数据集上对其进行评估。在 EEG-FM-Bench 上的全参数多任务微调下,NSP 在 14 个数据集上实现了 63.94 的宏平均平衡准确率,超出最强评估基线 2.35 个百分点。受控组件消融评估每种机制的贡献,而匹配的环境控制和留出干预则表征环境几何、信号内容和位置信息的作用。联合设计潜在目标及其背景为从分布式信号结构中学习的脑电图基础模型提供了一个有前途的方向。
