编辑级多数投票减轻了基于 LLM 的语法错误纠正中的过度纠正

使用 大语言模型 进行语法错误纠正经常会遇到过度纠正问题。为了缓解这个问题，我们提出了一种 无需训练 推理方法，该方法对单个模型生成的多个候选者执行编辑级多数投票，而不需要模型修改或额外的训练。在涵盖英语、捷克语、德语、乌克兰语、韩语、印地语和罗马尼亚语的九个基准测试中，所提出的方法在大多数情况下都优于贪婪解码和 MBR 解码。此外，无论使用何种指令提示，它都能产生稳定的校正质量。我们发布了两个支持 GEC 数据集加载和 LLM 推理的存储库。