论文
预测驱动推理的工业化:用于可靠生成式AI与智能体系统评估的GLIDE库
Industrializing Prediction-Powered Inference: The GLIDE Library for Reliable GenAI and Agentic Systems Evaluation
摘要
智能体系统的可靠评估需要带有有效不确定性的无偏估计,但标准实践只能在昂贵的人工标注与有偏的LLM裁判代理之间权衡。预测驱动推理(PPI)将两者结合为带有效置信区间的去偏估计,但其各类方法仍散落在论文中,且仅有不完整的实现。我们提出GLIDE,一个开源Python库,将最先进的PPI估计器(PPI++、Stratified PPI、Predict-Then-Debias及其分层变体、Active Statistical Inference)与采样器(均匀、分层、主动、成本最优)统一在专注于均值估计的scipy风格API之下。GLIDE附带可复现的蒙特卡洛验证套件、基于实证的方法选择决策树,以及一个智能体评估案例研究,展示了在同等精度下大幅节省标注成本。GLIDE软件包可通过以下网址获取:https://github.com/EmertonData/glide
