RAG中的推理-语言对齐作用

推理轨迹改善大语言模型，但当前模型主要以英语训练推理。已证明强制模型用其他语言推理会降低准确率——即使推理语言与提示语言一致，但仅在短提示推理的设定下。这里我们问：在RAG中是否同样成立——模型必须读取并整合大量目标语言检索证据。为研究此问题，我们构建完全单语的德语RAG问答试验床，基于桌面角色扮演游戏《暗眼》的虚构世界：该域德语文献丰富但过于小众以致模型无法凭记忆回答，必须依赖检索。在该试验床上变化Agentic 智能体RAG系统的强制推理语言，我们发现：使推理语言与查询及检索文档的语言对齐有帮助。强制德语推理优于强制法语——尽管模型法语基准更高，故收益来自对齐而非语言能力；当检索上下文更丰富且结构感知时优势扩大。但强制德语仅达到模型原生无约束英语推理的水平而未超越，说明需要原生多语言推理。我们公开发布试验床与QA基准。