论文

PASC:管道感知共形预测,为多阶段 NLP 和 LLM 管道提供联合覆盖保证

PASC: Pipeline-Aware Conformal Prediction with Joint Coverage Guarantees for Multi-Stage NLP and LLM Pipelines

模型评测鲁棒性、公平性与可信度评测

摘要

现代 NLP 和 LLM 系统是管道:命名实体识别 (NER) -> 实体消歧 (NED) -> 实体键入、检索增强生成(检索器 -> 阅读器)以及规划器 -> 工具 -> 评论家的代理链。误差在各个阶段复合,但现有的不确定性量化方法要么独立校准每个阶段(无联合覆盖),要么应用 Bonferroni 并集(联合覆盖,但保守)。我们提出了 PASC(管道感知分割共形),它将多阶段联合覆盖减少为联合最大不整合得分的单个标量共形预测问题。 PASC 提供有限样本无分布保证,所有 K 个阶段同时以至少 1 - alpha 的概率覆盖,并且几乎接近 1/(n+1) 因子。在 CoNLL-2003 上的三阶段 NER -> NED -> 实体类型管道上,PASC 在相同的平均预测集大小 (1.083) 下实现了 96.4% 的端到端覆盖率,而 Bonferroni 为 93.4%,独立 CP 为 86.5%。在分布转移到 WNUT-17 Twitter 和 WikiNEuRal 维基百科数据下,PASC 根据经验维持测试转移设置中的目标覆盖率,而独立 CP 崩溃至 59%。 PASC 需要单分位数计算,运行速度比 Bonferroni 快 1.7 倍,并可扩展至 K = 6 个阶段,其中独立 CP 降至 0.53 端到端覆盖率。同样的联合最大分数降低直接适用于复合 LLM 系统和代理管道。