论文

EvoBrain:跨异构BCI任务的EEG基础模型持续学习

EvoBrain: Continual Learning of EEG Foundation Models Across Heterogeneous BCI Tasks

模型训练持续学习

摘要

脑电图 (EEG) 是非侵入性脑机接口 (BCI) 的基石,但传统解码依赖于碎片化的、特定于任务的架构,这严重限制了跨任务的可扩展性。虽然在海量语料库上预训练的脑电图基础模型有望实现通用大脑解码,但目前的后训练依赖于任务隔离的微调。这种静态范式限制了跨异构任务的知识转移,阻碍了模型的可扩展性,并产生随任务数量线性扩展的计算和存储开销。为了克服这些瓶颈,我们将下游适应制定为跨任务持续学习问题,并提出 EvoBrain,一种用于统一脑电图解码的动态、任务感知持续学习框架。 EvoBrain 通过两个互补组件解决可塑性与稳定性之间的权衡问题:(1) 神经谱任务标准化 (NSN) 将传入任务与历史统计数据保持一致,同时重新校准谱响应以处理分布和神经谱变化; (2)响应亲和蒸馏(RAD)与时间相关的重放相结合,保留旧任务响应几何形状并促进光谱兼容任务之间的选择性知识转移,有效减轻遗忘。对六项不同 BCI 任务的广泛评估表明,EvoBrain 始终超越不同基础骨干的最先进方法,实现了可塑性和稳定性的最佳平衡。据我们所知,这项工作开创了脑电图领域跨任务持续学习的先河,推动了统一、一应俱全的大脑解码系统的实现。

EvoBrain:跨异构BCI任务的EEG基础模型持续学习:论文配图
图 2:EvoBrain 概述,用于跨异构 BCI 任务持续学习 EEG 基础模型。 (1) EvoBrain 接收具有不同信号持续时间、通道和标签空间的异构 EEG 任务流。 (2)从预训练的脑电图基础模型开始,主干从ℳ0\mathcal{M}_{0}逐步适应到ℳ1,…,ℳ𝒩\mathcal{M}_{1},\ldots,\mathcal{M}_{\mathcal{N}},同时为每个任务附加轻量级的特定于任务的头。 (3) 对于每个传入任务,神经频谱任务归一化 (NSN) 首先执行原型引导的时间归一化以减少跨任务分布偏移,然后通过结合特定频段的软掩模和可学习的频带门来应用任务条件频谱残差调制。 (4) 在训练过程中,重放的旧任务样本和当前新任务样本由冻结的旧任务教师和当前学生模型联合处理;虚线箭头表示重播的旧任务样本,而实线箭头表示当前的新任务样本。 (5)响应亲和蒸馏(RAD)通过两个互补的目标来规范持续适应:响应几何蒸馏保留学生和教师之间旧任务响应的关系几何,谱亲和对齐根据任务条件谱带门的符号相似性来对齐跨任务响应统计数据。在推理时,EvoBrain 只需要不断调整的主干网和选定的任务头。