论文
GUT：基于图复杂性的大语言模型推理不确定性量化与优化
GUT: Quantifying and Optimizing the Reasoning Uncertainty of LLMs via Graph Complexity
摘要
近年来，大型语言模型（LLM）的推理能力取得了巨大进步。然而，大语言模型的推理过程经常表现出不确定性，大语言模型经常在每个推理步骤中产生大量不同的分支，即使输入相同的提示输入，并且某些分支表现出明显令人难以置信，甚至荒谬的推理链和结果。在本文中，我们提出了基于图复杂性的 UncerTainty (GUT) 方法来研究 LLM 的推理不确定性。 GUT的核心思想是用有向无环图来刻画每个推理链的潜在分支，从而确保所有潜在分支都被全面覆盖在图空间内。基于这种认识，我们进一步构建了两个 GUT 模块，即量化（GUT-Q）模块和优化（GUT-O）模块，分别用于量化和减少 LLM 的推理不确定性。 GUT-Q 通过用图复杂度近似推理空间复杂度来衡量 LLM 推理不确定性。 GUT-O通过将负不确定性视为强化学习中的奖励函数来实现不确定性优化。在四个大语言模型和五个数据集上进行的实验结果验证了 GUT 的有效性。
