论文
跨语言大脑语言模型对齐是稳健的,但对层次和计算帐户提出了挑战
Cross-lingual brain-language model alignment is robust but challenges hierarchical and computational accounts
摘要
大脑语言模型对齐通常被解释为 Transformer 模型实现与人脑类似的计算的证据。这假设神经预测性反映了 大语言模型 (LLM) 的内部计算属性,例如分层上下文处理、预测编码或表示压缩。另一种可能性是,大脑分数主要反映了语言模型和大脑共享的稳定的词汇语义对应关系。在这里,我们使用普通话、英语和法语的全脑编码模型测试了这些解释。在所有三种语言中,Transformer 表示显着预测了跨越古典语言区域、跨模态皮层系统和皮层下结构的分布式网络中的活动。这些空间模式显示出大量的跨语言重叠,并且在各层之间保持非常稳定,几乎没有提供模型深度系统地映射到皮质处理层次结构的证据。同样,上下文 Transformer 嵌入的性能并不总是优于静态词汇嵌入,尽管提供了一些独特的预测方差。最后,无论是令人惊讶的还是内在的维度都没有再现大脑分数的分层轮廓,反对将预测和信息压缩作为大脑-LLM 对齐的主要解释。总之,这些发现表明,大脑-LLM 对齐在语言、Transformer 深度和模型架构方面比以前认识的更加稳健,但有关共享计算机制的信息较少。我们的结果更符合反映模型转换过程中保留的稳定表征结构的神经预测性,而不是其底层计算之间的一对一对应关系。