论文
脑电图语言基础模型的具有语义对齐的连续潜在预测模型
Continuous-Latent Predictive Modeling with Semantic Alignment for EEG-Language Foundation Models
摘要
脑电图基础模型的最新进展证明了大规模预训练的潜力,可以实现跨受试者、记录环境和数据集的通用神经解码。然而,占主导地位的预训练范式面临着关键挑战:屏蔽自动编码倾向于优先考虑底层信号重建而不是任务相关语义,而自回归建模会造成连续神经动力学和离散标记空间之间的不匹配。为了应对这些挑战,需要新的策略来有效地将连续脑电图表示与自然语言语义结合起来,并使其与 大语言模型 集成。因此,我们提出了大脑潜在预测模型(BLPM),这是一种脑电图语言基础模型,它将异构脑电图解码任务重新表述为连续语义嵌入预测问题。 BLPM 引入了连续 EEG 潜在预测 (CELP) 编码器,可通过潜在目标预测学习可转移表示。在这些表示的基础上,多查询语义分解(MQSD)模块提取与任务相关的信息,并根据语义关系将连续的脑电图表示与共享潜在空间内的文本语义对齐。跨多个基准的实验证明了跨不同任务的一致泛化性能,将连续的潜在语义预测建立为脑电图语言基础模型的有效范例。