论文
有思想的翻译:通过强化学习进行多领域机器翻译的难度自适应推理
Translation with Thought: Difficulty-Adaptive Reasoning via Reinforcement Learning for Multi-Domain Machine Translation
摘要
由于跨领域的语言复杂性水平不同,多领域机器翻译 (MDMT) 提出了独特的挑战。受到人类翻译者根据难度调整推理工作能力的启发,我们提出了 TwT(思想翻译),这是一种资源理性框架,可以学习调节直觉推理和深思熟虑推理之间的推理。 TwT 分两个阶段进行训练:(1) 对从 DeepSeek-R1 中提取并由 GPT-4o 重写的难度感知长思维链轨迹进行监督 微调,以反映类人推理经济;(2) 具有混合奖励的强化学习,以优化翻译质量和推理效率。 TwT-7B 和 TwT-14B 对涵盖域内和域外设置的 15 个基准以及 3 种见过的语言和 59 种看不见的语言进行了评估,并在三个骨干模型上进行了消融,TwT-7B 和 TwT-14B 在翻译质量方面优于更大的 SOTA 推理模型,同时将词元使用量减少了 32--60%。这些结果证实,将翻译行为与认知原则保持一致可以在 MDMT 中实现稳健的泛化、高翻译质量和高效推理。