通过后采样进行保形语言建模

大语言模型 仍然受到幻觉的困扰。最近的工作试图使用基于共形预测的统计技术来控制它们的流行，并取得了理论和经验上的成功。然而，这些方法以事后方式运作，将采样过程本身视为原子，然后通过手术改变样本以消除幻觉。过滤和生成之间的这种脱节可能会导致样本在模型本身下不连贯、不一致或根本不可能。此外，事后手术无法将概率质量转向更有用和有帮助的反应。为了解决这些问题，我们建议从 LLM 后验的近似值中进行采样，其中条件事件对应于校准的高分区域。我们开发了一个针对条件顺序生成设置的校准程序，可以有效识别该区域并实现目标风险控制。根据经验，我们将我们的方法应用于专注于开放式传记生成和数学问题解决的案例研究；与之前的工作相比，我们获得了相同的统计保证，具有更高的下游效用。