论文
能力更强,忠实性更低:LLM 中数学(不可)可解性检测的多语言分析
More Capable, Less Faithful: A Multilingual Analysis of Mathematical (Un)Solvability Detection in LLMs
摘要
可解性检测是 大语言模型 (LLM) 数学推理中最具挑战性的方面之一。虽然之前的工作已经广泛研究了这种能力,但这些分析仅限于英语。因此,目前尚不清楚多语言失败是源于内部可解决性信念的差异,还是源于语言相关的表达失败。为了解决这一差距,我们引入了第一个可解和不可解配对数学问题的多语言基准,将 ReliableMath 扩展到法语和希腊语。利用这一点,我们训练了预测可解性置信度的多语言探针,并从行为、代表性和 忠实性 方面分析了最先进的 LLM 的可解性检测能力。我们发现可解性信念被编码为一种很大程度上通用的、与语言无关的特征,并且英语等资源较高的语言尽管实现了更强的数学推理性能,但表现出较低的可解性检测 忠实性。