“Layer su Layer”：识别和消除 BERT 系列中意大利 NPN 结构的歧义

可解释性研究强调了评估预训练语言模型（PLM）的重要性，特别是针对显式语言理论的上下文嵌入，以确定它们编码的语言信息。本研究重点关注意大利语 NPN（名词-介词-名词）结构族，挑战了先前实验设计背后的一些理论和方法论假设，并将此类研究扩展到研究较少的语言。上下文向量表示从 BERT 中提取，并用作逐层探测分类器的输入，系统地评估跨模型内部层编码的信息。结果揭示了结构形式和意义在语境嵌入中反映的程度，为结构主义理论和神经语言模型之间的对话提供了经验证据