论文
自然理解过程中语言模型的异质神经预测
Heterogeneous Neural Predictivity from Language Models During Naturalistic Comprehension
摘要
语言模型表示提供自然语言刺激的结构化、高维注释，并且可以在理解过程中充当信息丰富的神经预测器。我们使用八个冻结语言模型、块编码模型以及匹配的时间、干扰和表示能力控制来分析来自 Brain Treebank、MEG-MASC 和 Podcast ECoG 的锁定派生数据。在源级别摘要中，积极的预测和相对于低水平基线的收益普遍存在。在 Brain Treebank 和 Podcast ECoG 中，432 个可评估行中有 67 个满足受控的仅预测标准，并且模型端特征消融改变了大多数可评估源行中的预测分数。脑源性、时序关联、声学和植入信号控制证实了分析管道的组件级灵敏度。这些发现表明，语言模型导出的量可以注释自然语音和文本理解过程中的神经活动。参与者级别的匹配控制优势是局部的而不是统一的，响应概况和特征特异性对比有界的代表性或计算解释，并且完整的联合索引综合解释将需要未来的联合索引覆盖。总之，这些分析将语言模型特征识别为有用的神经预测因子，并将预测有用性与有关共享神经组织或语言处理计算的主张分开。