论文

标签感知结构化文本翻译:走向系统化理解

Tag-Aware Structured Text Translation: Towards a Systematic Understanding

模型训练强化学习

摘要

互联网文本充满了带有结构、语义和功能含义的格式标签。当前基于大语言模型 (LLM) 的翻译系统在处理标记文本时难以平衡翻译流畅性和标记保真度。我们认为,解决这种紧张关系需要在三个相互关联的层面上采取系统方法:数据合成、能力建设和多目标协调。在数据层面,我们确定并形式化了合成数据生成中结构标签多样性和翻译自然性之间的基本权衡;现有方法以牺牲另一种为代价来优化一种方法。我们提出了一种混合合成策略(Hy-LST),结合基于LLM的合成标签方法和基于两阶段LLM的合成标签方法来生成多样化和自然的标签数据。在能力层面,我们将标签感知翻译分解为多任务监督微调框架中难度不断增加的四个子任务,从而实现有针对性的能力获取和知识转移。在对齐层面,我们在群体相关策略优化框架下设计了三个互补的奖励函数,每个函数都针对不同的目标(流畅性、标签保真度和标签范围的翻译质量),并表明联合优化始终优于单一奖励替代方案。对六个语言方向(en2zh、en2ja、en2de、en2fr、en2ru、de2fr)的实验表明,每个级别都做出了可衡量的改进,并且整个系统显着优于现有方法。定性分析揭示了特定的错误模式及其在使用我们的方法进行训练后的缓解措施。