论文
TRACE:使用自回归跨通道专家进行脑电图表示学习的时间路由
TRACE: Temporal Routing with Autoregressive Cross-channel Experts for EEG Representation Learning
摘要
学习脑电图(EEG)的可转移表示仍然具有挑战性,因为脑电图信号本质上是多通道和非平稳的。同时观察的通道提供神经活动的耦合测量,而相关的时间动态因上下文而异。这种结构与跨时间应用统一计算或独立路由每个通道补丁的架构不太匹配。为此,我们提出了 TRACE,这是一种自回归 EEG 预训练 框架,它可以根据因果上下文预测未来的 EEG 补丁,同时执行时间自适应和跨通道相干计算。在每个时间步骤,TRACE 从因果跨通道历史中得出专家路由决策,并将其联合应用于该步骤的所有通道。这保留了瞬时跨通道一致性,同时允许不同的时间机制激活不同的计算。由于路由是在可用通道集和因果时间上下文上定义的,因此 TRACE 与具有不同通道数、剪辑、序列长度和记录域的语料库中的异构 预训练 兼容。在八个下游 EEG 基准中,TRACE 在两种设置下进行评估:当下游域仅被视为未标记的 预训练 数据时,以及当下游数据集在 预训练 期间完全不可见时。它在多个基准上获得了最佳结果,同时在运动想象和临床事件分类任务上保持竞争力,并且消融支持了跨通道时间路由的重要性。