面向语言模型选择性预测的分层组条件保形风险控制
Hierarchical Group-Conditional Conformal Risk Control for Selective Prediction in Language Models
摘要
大语言模型服务于按领域、题目难度和语言风格结构化的异质人群。保形风险控制(CRC)为带弃答的选择性预测提供严格的边际风险保证,但边际保证并不意味着分组保证:模型可以在满足总体预算的同时,系统性地让亚群体过度暴露于错误之中。在群体构成的轻微漂移下,标准CRC在多达47%的试验中违反预算。我们提出HG-CRC(Hierarchical Group-Conditional CRC,分层组条件CRC),一个在用户自定义组层级的所有节点上同时实施风险保证的事后校准框架。它在各节点上应用Bonferroni校正,并采用叶节点优先策略——使用最具体的可用阈值,当更细的节点未获认证或拒绝该样本时回退到更粗的节点。它只需要一个留出校准集,无需重新训练。我们在三个模型(Qwen3-4B、Llama-3.1-8B-Instruct、Gemma-3-4B)和两个基准(ARC Challenge、MMLU-Pro)上、跨八种配置进行评估,考察IID泛化、异质性、混合/领域/提示/难度漂移、标签噪声和量化。主要结果:在ARC Challenge上,HG-CRC对高精度模型(Qwen3-4B、Llama-3.1-8B)达到经验0%的违规率和WGER=0。在500次bootstrap试验下,这些零是经验上界(真实比率最高0.6%),并非经过认证。结果依赖于具体基准:在MMLU-Pro上,这些模型完全弃答,或(Llama)保持WGER=0.014。在此校准欠佳的Gemma-3-4B则通过弃答实现优雅退化。相对于全局CRC的参与成本为22到37个点。消融实验表明分层深度对满足预算至关重要:移除难度层级后违规率回到约11%。Bonferroni是理论保证所必需的,尽管其经验影响只在节点较多时才显现。