图对齐拓扑作为证据一致性检测的归纳偏置

大语言模型 (LLM) 经过优化以产生分布上合理的延续，而不是明确验证生成的命题是否由源文档蕴含。这种归纳偏差可以实现泛化，但它不会编码响应是否相对于参考证据一致性。这些问题限制了 LLM 在严格事实正确性至关重要的领域（例如临床决策支持）的使用。现有的幻觉检测方法通过检索增强、自洽或声明验证来提高事实性，但通常不会直接通过对齐拓扑进行学习。为了利用对齐拓扑作为归纳偏差，我们在参考信息和 LLM 输出之间构建对齐的二部图，并训练图神经网络（GNN）以使用消息传递来建模对齐结构。该方法在四种不同的幻觉和问答数据集上取得了最先进的结果，优于所有比较的方法，包括基础 LLM，例如 GPT-4o。