论文

更少的语言,更少的词元:高效的统一逻辑跨语言思维链推理框架

Less Languages, Less Tokens: An Efficient Unified Logic Cross-lingual Chain-of-Thought Reasoning Framework

模型推理推理搜索与路径规划

摘要

具有自我一致性的跨语言思维链(XCoT)显着增强了多语言推理,但由于对跨语言完整轨迹的广泛采样,现有方法仍然成本高昂。此外,多语言 LLM 表示形式因语言而异,阻碍了直接的特征比较和有效的修剪。受此启发,我们推出了 UL-XCoT,这是第一个高效的统一逻辑跨语言推理框架,可最大程度地减少词元使用和延迟的冗余,从而在推理过程中在有限的采样预算下产生最大的效率。具体来说,UL-XCoT (1) 通过在每个查询中选择语言不变的统一逻辑空间中的小型候选语言集来实现更少的语言,(2) 通过在解码期间监视逻辑空间轨迹动态来修剪低质量推理路径,从而实现更少的标记,以及 (3) 通过投票聚合剩余的高质量轨迹。使用 DeepSeek-R1-DistillQwen-7B 对 18 种语言的 PolyMath 和 29 种语言的 MMLU-ProX-Lite 进行的实验表明,UL-XCoT 实现了有竞争力的准确性,同时与之前的采样基线相比,大幅削减了 50% 以上的解码词元成本。 UL-XCoT 还为低资源语言提供了更稳定的增益,在标准 XCoT 自一致性方法失败的情况下强调了始终如一的卓越鲁棒性。