论文

预测驱动推理的工业化:用于可靠生成式AI与智能体系统评估的GLIDE库

Industrializing Prediction-Powered Inference: The GLIDE Library for Reliable GenAI and Agentic Systems Evaluation

模型评测评测方法与指标

摘要

智能体系统的可靠评估需要带有有效不确定性的无偏估计,但标准实践只能在昂贵的人工标注与有偏的LLM裁判代理之间权衡。预测驱动推理(PPI)将两者结合为带有效置信区间的去偏估计,但其各类方法仍散落在论文中,且仅有不完整的实现。我们提出GLIDE,一个开源Python库,将最先进的PPI估计器(PPI++、Stratified PPI、Predict-Then-Debias及其分层变体、Active Statistical Inference)与采样器(均匀、分层、主动、成本最优)统一在专注于均值估计的scipy风格API之下。GLIDE附带可复现的蒙特卡洛验证套件、基于实证的方法选择决策树,以及一个智能体评估案例研究,展示了在同等精度下大幅节省标注成本。GLIDE软件包可通过以下网址获取:https://github.com/EmertonData/glide

预测驱动推理的工业化:用于可靠生成式AI与智能体系统评估的GLIDE库:论文配图
图 1:用于选择采样器和估计器的 GLIDE 决策树。上半部分(抽样)根据成本估算的可用性、每个样本代理不确定性和自然地层将用户路由到五个抽样器之一。下半部分(估计)根据可用的人类标签数量在基于 CLT 的估计器(PPI++、分层 PPI++、ASI)和基于引导的 PTD 变体之间进行选择。绿色和红色箭头分别表示“是”和“否”分支。