论文
多语言推理骨架应该使用哪种语言?
Which Language Should a Skeleton Speak? Language Choices in Multilingual Reasoning
摘要
基于骨架的推理提示是一种很有前途的免培训构建LLM推理的方法,但之前的工作很大程度上假设以英语为中心的环境。我们提出了语言感知骨架探索框架(LASEF)来研究多语言数学推理中的骨架语言选择。在数学基准、模型规模和语言方面,我们表明英语骨架平均产生较小的积极趋势,对于较小的模型和低资源语言最为明显。然而,在纠正后,几乎没有什么语言水平的进步仍然显着,而且英语也不是普遍最佳的。结合贪婪解码、多次Rollout评估、翻译消融和跨基准验证,我们进一步发现了骨架语言效应的三种模式:方向一致、评估和基准依赖以及不对称负向。这些影响不能仅用发电质量来完全解释。总的来说,骨架语言是一个依赖于上下文的设计变量,需要多层次的探索。所有资源均在https://github.com/lhsstn/LASEF。释放
