通过输入侧证据对齐进行幻觉跨度检测

幻觉仍然是在条件文本生成中可靠使用 大语言模型 (LLM) 的主要障碍。现有的方法主要评估整个生成文本的真实性，对哪些输出范围是幻觉的或者它们与输入的关系提供了有限的了解。我们引入了具有输入端证据对齐的幻觉跨度检测任务，该任务联合识别幻觉跨度并将输出标记与相应的输入证据对齐。我们的方法基于这样的观察：忠实的输出标记可以从输入中预测，而幻觉的标记则不能。因此，我们训练基于编码器的模型来根据输入表示来预测屏蔽的输出标记，使用预测置信度进行幻觉检测，同时自然地生成与输入的对齐。实验表明，所提出的方法可以有效地检测幻觉跨度并识别有意义的输入端证据。人工评估确认了预测比对的质量。