论文

最佳证据:部分验证下的 Best-of-N 选择

Best-of-Evidence: Best-of-N Selection under Partial Verification

模型推理推理验证与自校正

摘要

BoN 通过对多个候选者进行采样并选择具有代理分数的一个来改进模型输出,但它假设可以可靠地评估完整的候选者。相反,许多视觉语言任务仅提供部分验证:即使不存在可靠的整体响应验证器,也可以检查发现、跨度、值、区域或关系。此外,同样的主张可能会在持相反立场的候选人中重复出现,从而导致一种观察结果支持部分观点,而与另一种观点相矛盾。我们引入了最佳证据(BoE),这是一种推理时间选择框架,可保持 BoN 候选池固定,用签名的候选因素图表示可重用的声明,并将有限的预算分配给可以改变最终选择的证据操作。英国央行在部分验证下正式选择,并提供实用的基于分数的控制器,并在零预算情况下恢复英国央行的基本决策。理论上,我们表明剩余证据容量限制了任何证据驱动的改进,并且共享因子查询可以在因子代码模型中实现 O(log K) 与 θ(K) 查询分离。对四种医疗 VQA 设置的公共分类帐实验表明,当证据可靠、具有对比性且与决策相关时,BoE 可以改进固定池选择并挽救一些 BoN 失败,同时还揭示了阻碍普遍收益的通道质量和候选生成限制。