论文

语法推理:合成语言推理轨迹能否增强低资源机器翻译?

Reasoning over Grammar: Can Synthetic Linguistic Reasoning Traces Enhance Low-Resource Machine Translation?

模型推理推理策略与问题分解

摘要

大语言模型 (LLM) 通过上下文学习整合语言资源,为资源极少的语言提供了一种有前景的机器翻译 (MT) 方法。然而,LLM 在翻译过程中常常难以有效地应用语法信息。受到思想链推理最新进展的启发,我们研究了低资源机器翻译是否可以从语言分析和语法推理的结构化中间步骤中受益。我们提出了一个管道,用于从通用依赖树库、词典和语法规则库自动生成逐步语言推理轨迹。我们在三种设置中评估这些痕迹:上下文学习(ICL)、监督 微调(SFT)和强化 微调(RFT),以 Xibe 和 Chintang 作为测试用例。我们的结果表明,语言推理轨迹作为推理时间指导最有效:在 ICL 中,可靠的语言推理轨迹可显着提高跨模型、语言和指标的翻译性能。相比之下,使用这些痕迹作为训练数据会产生较小且不太一致的增益,因为模型会学习格式,但通常会生成容易出错的内容。这些发现表明,在给出可靠的语言分析时,LLM 可以利用语法信息进行低资源机器翻译,而学习生成此类分析仍然是一个主要瓶颈。