理解和纠正脑电图基础模型中的低频偏差

增加脑电图预训练数据规模或模型容量并不能持续提高下游性能。我们在不同的脑电图基础模型学习到的表征中发现了持续的低频偏差，这种偏差在数据集规模、模型容量和预训练目标中仍然存在。我们的分析将这种偏差与脑电图 $1/f^α$ 式频谱结构和神经网络优先学习低频分量的倾向之间的相互作用联系起来。在掩码自动编码器中，$\ell_2$ 重建目标进一步放大了这种不平衡：在可比较的相对重建误差下，高功率低频分量对损失的贡献不成比例。为了解决这个问题，我们引入了 FAME，这是一种频率平衡屏蔽自动编码框架，可以根据屏蔽 EEG 输入重建预定义 EEG 频段中的时频活动。 FAME 独立标准化每个频段内的重建目标，并对所有特定频段的损失分配相同的权重，从而平衡整个 EEG 频谱的监督。通过对 OmniEEG-Bench 中的 41 个下游任务进行评估，FAME 学习了更多光谱平衡表示，并在其中 24 个任务上实现了最先进的性能。这些结果强调了平衡频谱监督对于学习可转移脑电图表征的重要性。