DeMTS：作为多元时间序列的去噪轨迹，用于扩散语言模型中的幻觉检测

Diffusion 大语言模型 (D-LLM) 已成为一种有前景的文本生成范例。然而，与自回归 LLM 类似，D-LLM 仍然容易产生幻觉，其中流畅的输出可能包含事实上不正确或不受支持的内容。尽管 D-LLM 的现有幻觉检测方法尝试利用去噪过程的不确定性轨迹来更好地识别幻觉信号，但它们通常沿着时间或词元维度压缩轨迹，忽略了完整二维词元步骤结构中编码的有用信息。因此，它们可能无法捕获与幻觉相关的模式，例如不一致的收敛和跨词元故障传播，从而导致检测性能不佳。为了弥补这一差距，我们提出了一种 D-LLM 幻觉检测框架，该框架将去噪轨迹制定为可学习潜在变量（简称 DeMTS）上的多元时间序列。 DeMTS 采用轨迹保留词元到变量分配模块将词元信号转换为稳定的潜在变量。基于这些变量，我们提出动态多元时间建模，以逐步将变量间依赖性建模与时间编码相结合以进行幻觉预测。对两个 D-LLM 主干和三个基准进行的大量实验表明，DeMTS 优于现有的幻觉检测方法，同时保持强大的鲁棒性、效率和跨任务可转移性。