论文
用于不确定性感知结构化 LLM 推理的基于分布式能量的模型
Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning
摘要
当 大语言模型 生成结构化输出（例如旅行计划、代码解决方案或多步骤证明）时，单个推理步骤可能看起来正确，而整个输出违反预算、测试用例失败或与先前的推论相矛盾。我们提出了一种分解的能量函数，它将学习的质量评分器与确定性分析约束惩罚相结合，以验证结构化的 LLM 输出。质量评分器是单个冻结编码器上低秩适配器的异构集合（3％可训练参数）；整体平均值对候选者进行排名，而标准差则量化认知不确定性，驱动两轮推理循环，触发有针对性的再生或弃权。在五个基准测试（GSM8K、MuSR、TravelPlanner、TACO、Knights & Knaves）中，我们的 149M 参数验证器编排了一组 7-26B 开放式生成器，在每个基准测试中都优于单次 Qwen-72B，与 MuSR 上的 Claude Sonnet 4.6 相匹配（67.7% 与 68.0%），并且相对于 Opus 将约束违规减少了 53% TravelPlanner 上的 4.6（oracle 0.028，随机 0.231）。这两条路线是互补的：当约束可检查时结构验证获胜（验证者捕获信号前沿模型无法自我检测），而预训练规模先验在不可检查的情况下获胜（叙述推理、代码语义）。跨数据集混杂分析证实了四个推理任务的真正质量歧视，并确定了代码上的模型身份快捷方式，通过最后一层再训练缓解了这种情况。记分员接受了困难数据传输零样本训练：经过 MuSR 训练的记分员在 GSM8K 上达到了 93.9%，而没有遇到数学问题。