论文
STEAM:用于 EEG 解码的具有分层 预训练 的时空对齐混合专家模型
STEAM: A Spatio-TEmporal Alignment Mixture-of-Experts Model with Hierarchical Pre-training for EEG Decoding
摘要
脑机接口(BCIs)已广泛应用于运动康复、疾病诊断和其他神经工程场景。然而,传统的神经信号解码算法通常存在通用性有限和适应成本高的问题,这激发了人们最近对 BCI 基础模型的兴趣。现有方法仍然难以共同实现通用可转移性、准确解码和高效的下游适应。我们提出了 STEAM,这是一个分层传输框架,可以协调通用表示学习与脑电图基础模型中特定范式的专业化。该框架被实例化为双分支时空编码器,其中共享软专家混合(SSMoE)模块对齐空间和时间分支,允许互补表示通过一组紧凑的软槽交换信息。在 7 个下游数据集和 14 个评估设置中,STEAM 在比较方法中以 FLOP 为单位衡量的具有竞争力的推理成本获得了最佳平均排名。基于第一阶段一般初始化,分层 预训练 策略进一步将模型专门化为目标范例,而无需从头开始重新训练,从而在特定范例的解码精度方面产生一致的增益。