论文
更短,但仍然值得信赖?思想链压缩的实证研究
Shorter, but Still Trustworthy? An Empirical Study of Chain-of-Thought Compression
摘要
长思想链(Long-CoT)推理模型激发了越来越多的压缩推理轨迹以降低推理成本的工作,但现有的评估几乎完全集中在任务准确性和词元节省上。可信度属性,无论是通过 后训练 获得还是增强,都被编码在压缩修改的同一参数空间中。这意味着保留准确性并不能保证保留可信度。我们对 CoT 压缩如何影响模型可信度进行了首次系统的实证研究,从安全性、幻觉抵抗性和多语言鲁棒性三个维度评估了不同规模的多个模型。在受控比较下,我们发现 CoT 压缩经常引入可信度回归,并且不同的方法在维度上表现出明显不同的退化曲线。为了实现跨基础的公平比较,我们提出了每个维度的标准化效率得分,揭示了朴素的标量指标如何掩盖可信度权衡。作为存在证明,我们进一步引入了一种对齐感知的 DPO 变体,该变体在推理基准上将 CoT 长度减少了 19.3%,并且可信度损失显着减小。我们的研究结果表明,CoT 压缩不仅应该针对效率进行优化,还应该针对可信度进行优化,将两者视为同等重要的设计约束。