BandVQ：带状矢量量化脑电图基础模型

脑电图 (EEG) 基础建模的一个核心挑战是学习具有不同任务、蒙太奇、参考和光谱特征的记录之间的可转移表示。现有的掩蔽建模方法通常依赖于宽带连续斑块或单个离散表示，这可能不足以代表特定频率的活动。本文提出了 BandVQ，一种逐波段矢量量化 EEG 基础模型，它将 EEG 分解为 delta、theta、alpha、beta 和 gamma 波段，为每个波段训练一个独立的 VQ-VAE 标记器，并在生成的离散 VQ 代码索引上预训练共享 Transformer 编码器。编码器使用屏蔽码词元、量化的绝对对数功率词元、通道和时间嵌入以及表示参考、频带、任务族和阶段的元数据前缀词元。还引入了基于区域的掩蔽来减少空间相邻电极的琐碎重建。该模型在 71 个公共脑电图语料库（包含 9,200 多名受试者和 357,000 个单通道小时）上进行了预训练，并在 6 个独立于受试者的分类数据集上进行了评估。在当前的评估设置下，所提出的模型实现了强大的迁移性能，在三项认知任务上获得了最高的报告结果，并在三项运动想象任务上取得了竞争性的表现。