论文
大推理模型的条件性能保证
Conditional Performance Guarantee for Large Reasoning Models
摘要
大型推理模型通过扩展思维链推理展现出强劲性能,但其计算成本依然高昂。可能近似正确(PAC)推理通过在思考与非思考模型之间自适应切换,为高效推理提供统计保证,但该保证仅在边际情形下成立,不提供精确的条件覆盖。我们提出G-PAC推理,一个实用框架,通过划分输入空间在组层面提供PAC式保证。我们开发两种实例化:面向已知组结构的Group PAC(G-PAC)推理与面向未知分组的Clustered PAC(C-PAC)推理。我们证明G-PAC与C-PAC均实现组条件风险控制,且在异质设置下分组可严格提升效率,超越边际PAC推理。在多样推理基准上的实验表明,G-PAC与C-PAC在保持可观计算节省的同时成功实现组条件风险控制。