基于重建的脑电图基础模型中的非周期性和低频频谱偏差

在大规模未标记脑电图数据上进行预训练的脑电图基础模型已成为学习可推广脑电图表示的一个有前途的方向。尽管在数据丰富的情况下显示出积极的结果，但与完全监督的模型相比，它们在资源匮乏的环境中通常无法胜过明显较小的监督模型。我们对这一缺点进行了机械解释，将其归因于基于重建的借口任务与脑电图信号的特殊频谱结构之间的根本不匹配，脑电图信号分解为不同的高功率非周期性和低功率振荡分量。使用受控的、合成生成的脑电图输入，我们证明脑电图基础模型嵌入有偏差，以捕获脑电图信号的非周期性分量，同时低估振荡分量，特别是在较高频率下。此外，对现实世界 BCI 数据集的线性探针评估进一步表明，嵌入对主体身份的编码比任务相关信息更强，从而强化了主要基于基于重建的目标训练的基础模型嵌入中的低频和非周期性成分偏差。总之，这些发现阐明了基于重建的脑电图基础模型的故障模式，并激励未来的工作将明确针对高频振荡结构的辅助损失纳入其中，作为通向更强大和更通用的脑电图表示的途径。