论文

联合一致性:经能量最小化的统一测试时聚合框架

Joint Consistency: A Unified Test-Time Aggregation Framework via Energy Minimization

模型推理推理验证与自校正

摘要

本文研究测试时聚合:生成多条推理轨迹并聚合成最终答案。多数既有方法依赖从候选轨迹孤立收集的评估信号或答案频率,忽视候选间的比较交互。我们提出联合一致性(JC):形式化为受约束的Ising型能量最小化问题,其中独立评估信号充当外场、成对比较充当交互。JC为测试时聚合提供统一框架,把既有投票与加权聚合方法收为特例。我们的交互矩阵构造利用LLM-as-a-judge比较,并在答案级同质假设下获得理论解释。此外我们开发高效近似策略,使交互建模在大规模测试时聚合中实际可用。数学与代码推理基准上的实验显示,JC跨任务、裁判模型、轨迹预算与轨迹生成设置一致超越既有基线。

联合一致性:经能量最小化的统一测试时聚合框架:论文配图
图 1:来自 HMMT 2025(11 月)数据集的 Q28 众包追踪的 TTA 方法,其中真实答案为 254。黄色单元格表示每种方法选择的最终聚合答案。蓝色和绿色单元分别代表独立评估信号和比较信号。 SC、BoN 和 WSC 倾向于错误多数或高分答案。 KT 在第二轮中以​​ 0.4 的比分输给 128 后淘汰了正确答案 254。相比之下,μ=0.5\mu=0.5 的 JC 通过聚合全局成对交互成功地识别了正确答案。