OBC-Prune：基于结果校准的大型推理模型剪枝

大型推理模型在作答前生成长思维链，带来显著推理开销。剪枝能降低成本，但效果依赖估计参数重要性的校准数据。近期工作改用模型自身轨迹而非通用数据集校准，却不区分推理token是否促成成功推理，导致按统计显著性而非正确推理贡献保护权重，错误计算背后的权重同样保留。这些错误模式进入剪枝模型，降低准确率并延长推理轨迹。我们提出基于结果校准的OBC-Prune。它先从模型回答不稳定的问题中构建难度匹配的正确与错误轨迹对，再通过干预分析估计各推理句的因果重要性，量化移除其影响如何改变后续预测。分数被转成每token权重，重缩放SparseGPT、Wanda和ALPS等一次性剪枝方法的校准激活，而不改变底层算法。我们在DeepSeek-R1-Distill-Qwen的1.5B、7B、14B模型以及40%和50%稀疏度上实验，在MATH500、LiveCodeBench和AIME 2025的大多数模型规模与稀疏度设置下持续优于先进校准基线。结果表明，保留因果重要的推理回路比均匀保留观测激活是更有效的剪枝目标。