LLM 推理事实性的可微共形训练

大语言模型 (LLM) 经常产生幻觉，限制了其在关键应用中的可靠性。保形预测 (CP) 通过校准保留数据的错误率来解决这个问题，以提供统计上有效的置信保证。最近的工作将 CP 扩展到 LLM 事实性，以过滤掉有风险的主张，确保幻觉率保持在用户指定的水平（例如 10%）以下。虽然现有方法独立地处理声明，但连贯事实性通过将输出表示为依赖图并与其逻辑祖先联合验证声明，扩展到多步骤推理。一个关键的限制是连贯事实性是不可微分的，需要手工制作的评分器在高可靠性水平下消除近 60% 的真实主张。我们引入了可微相干事实（DCF），这是一种完全可微的松弛，可以学习改进的评分器，同时可证明恢复原始算法的保证。在两个基准推理数据集上进行的实验表明，DCF 在保持可靠性保证的同时，在索赔保留方面实现了高达 141% 的改进，这代表着朝着可靠的共形 LLM 系统迈出了重要一步。