用成本感知对战反馈识别最佳大模型

受到从具有异构查询成本的大型语言模型（LLM）集合中识别最佳模型的问题的启发，我们制定并分析了多臂老虎机（MAB）的变体，其具有（i）决斗反馈，其中模型响应之间的成对比较提供了稳健的偏好信号，以及（ii）异构采样成本，反映了查询不同LLM的不同成本。假设存在孔多塞获胜者，这是我们在多个现实世界数据集上凭经验验证的条件，我们提出了一种跟踪和停止式算法，用于具有规定置信度的最佳臂识别。我们证明，当误差趋于零时，该算法几乎肯定会达到渐近最优成本。最后，我们在合成实例和现实实例上广泛评估了我们的方法，证明了对经典成本不感知算法及其成本感知扩展的一致改进。