论文
验证者严格性的隐藏信号:通过选择性潜在引导控制和改进逐步验证
The Hidden Signal of Verifier Strictness: Controlling and Improving Step-Wise Verification via Selective Latent Steering
摘要
生成验证器已成为逐步验证的一种有前途的范例,但它们的验证行为往往校准不佳:它们可能不够严格并错过错误的步骤,或者过于严格并拒绝正确的推理。我们将这种过于宽松或过于挑剔的倾向称为验证者严格性。在这项工作中,我们研究是否可以通过隐藏状态干预来控制验证者的严格性。我们发现了验证特定的隐藏状态信号:在逐步验证中,验证者接受或拒绝解决方案步骤的倾向被编码在相应验证段落的边界附近。利用这个信号,我们证明隐藏状态控制可以直接调节验证器的严格性,而无需 微调。然而,统一的转向会导致错误检测和正确性认证之间的权衡。为了解决这个问题,我们提出了VerifySteer,它利用样本级路由的潜在正确性信号并有选择地干预段落边界。 ProcessBench 和 Hard2Verify 上的实验表明,VerifySteer 的性能优于即时优化和激活引导基线,并且在自我一致性方面具有竞争力,同时需要的推理计算量减少了 4-7 倍。 verifySteer 也是验证 微调 的补充,在微调验证器的基础上提供进一步的增益。代码可在 https://github.com/YefanZhou/VerifySteer 获取。