FUSE：无需正确性标签的验证器集成

模型输出的验证正在迅速成为 大语言模型 (LLM) 训练和实际部署的关键原语。在实践中，这通常涉及使用不完善的 LLM 法官和奖励模型，因为 真值 的获取可能既耗时又昂贵。我们引入完全无监督分数集成（FUSE），这是一种通过集成验证器而无需访问 真值 正确性标签来提高验证质量的方法。 FUSE 背后的关键思想是控制验证者之间的条件依赖关系，从而提高集成文献中一类谱算法的无监督性能。尽管需要零 真值 标签，但 FUSE 通常会在测试时间扩展实验中使用不同的生成器模型、验证器和基准测试来匹配或改进半监督替代方案。特别是，我们在传统的学术基准（例如 GPQA Diamond）和前沿的、不饱和的基准（例如 Humanity's Last Exam 和 IMO Shortlist questions）上验证了我们的方法。