LLM 跨语言数学参数：共享还是单独？

大语言模型 (LLM) 在数学推理性能方面表现出巨大的跨语言差异，但目前尚不清楚这些差异是否反映了特定于语言的参数或因语言而表现不同的共享机制。我们在 LLM 中提出了数学推理的跨语言机制分析，使我们能够本地化和比较支持跨语言数学推理的模型参数。我们发现提取的数学相关参数表现出部分跨语言重叠，最强的重叠集中在中间模型层。我们进一步观察到，英语始终产生最大的数学相关参数集，而资源较低的语言则显示较小的相关参数集。这些结果表明，多语言 LLM 中的数学相关行为既不是完全语言不变的，也不是完全特定于语言的，而是表现出部分跨语言参数重叠与系统的语言依赖差异。