论文
超越准确性:脑电图基础模型的稳健性、可解释性和表现力
Beyond Accuracy: Robustness, Interpretability and Expressiveness of EEG Foundation Models
摘要
脑电图基础模型(EEG-FM)主要根据干净的、分布内的准确性进行评估,而其稳健性、可解释性和代表性质量在很大程度上未经检验。本研究通过将六个 EEG-FM 与八个数据集的基线深度学习模型进行基准测试来解决这些差距。除了干净的准确性之外,我们还进行了三层分析:(i)鲁棒性:我们应用测试时扰动,包括加性噪声、随机和基于区域的通道丢失以及特定于区域的噪声注入。我们的分析表明,没有一个模型能够主导所有故障模式。最抗噪的模型是在通道丢失情况下最脆弱的模型之一,当通道被删除而不是零填充时,大部分丢失脆弱性就会消失。 (ii) 可解释性:我们首次将注意力感知逐层相关性传播(AttnLRP)应用于 EEG-FM,并表明模型广泛地将相关性集中在与已知的神经生理学一致的任务适当的大脑区域。然而,归因图在扰动下保持空间稳定,而预测却下降,这表明模型关注正确的大脑区域,但解码损坏的内容。 (iii) 表达能力:通过按块探测,我们表明后期块在 微调 期间被重新利用,而早期块已经保存了任务相关信息。此外,我们证明,先前归因于低质量预训练表示的不良头部性能在很大程度上可以通过池化来解释,并且当保留 词元级 嵌入时,EEG-FM 具有足够的表示能力。总之,这些发现首次对 EEG-FM 的稳健性、可解释性和表达性进行了系统评估,并强调了其开发的关键考虑因素。