测量不可测量的事物:LLM 代理的马尔可夫链可靠性
Measuring the Unmeasurable: Markov Chain Reliability for LLM Agents
摘要
大语言模型 (LLM) 代理越来越多地作为顺序软件系统运行,但它们的可靠性通常通过标量基准指标来概括。 pass$@k$、pass$^k$ 和可靠性衰减曲线 (RDC) 等指标是有用的摘要,但它们无法识别所估计的成功时间分布、测试迹线是否支持该分布或量化有限迹线不确定性。我们提出了 \textsc{TraceToChain},一个可重现的管道,将代理执行跟踪拟合到吸收离散时间马尔可夫链(DTMC),$\hat M=(\hat Q,\hat R_\oplus,\hat R_\ominus)$,具有明确的诊断和不确定性。该管道构建自动聚类分类法,使用拉普拉斯平滑最大似然估计 (MLE) 估计转换,使用复合 Akaike 信息准则 (AIC) 和 Kolmogorov-Smirnov (KS) 拟合优度证书检查拟合情况,并报告狄利克雷后验可信区间和非参数自举区间。我们将经典可靠性数学(Kemeny--Snell~\cite{kemenysnell}、Cheung~\cite{cheung1980}、Goel--Okumoto~\cite{goelokt})应用于代理轨迹。由此产生的第一通道视图协调了通常单独报告的指标:pass$@k$、pass$^k$ 和 RDC 是一个成功时间分布的预测。在七个具有严格 50/50 拟合/测试协议的受控 MAST 式框架上,保留的经验 RDC 与最大 $L_\infty^{\mathrm{RDC}} = 0.053$(中位数 $0.048$)的分析对应物重叠。对第一代累积分布函数 (CDF) 进行的两个样本 KS 测试接受 $7/7$ 框架上 $p>0.05$ 的拟合链(最小值 $p = 0.78$),并且每个条目 $95\%$ 后验和引导区间与中位数处的 $\approx\!0.01$ 一致。