弥合效率与透明度：多模态大推理模型中的可解释CoT压缩

摘要

长思维链（Long CoT）在多模态推理模型中被广泛采用，通过捕捉细致的视觉信息来应对复杂任务。然而，这些长思维链往往过长且包含冗余推理步骤，会妨碍推理效率。压缩这些长思维链是自然的解决之道，但现有方法面临两大挑战：(1) 它们可能因移除关键的对齐线索而损害视觉-文本推理的完整性；(2) 压缩过程缺乏可解释性，难以辨别哪些信息是关键的。为解决这些问题，我们提出XMCC——可解释多模态CoT压缩器（eXplainable Multimodal CoT Compressor），它把压缩形式化为通过强化学习优化的序贯决策过程。XMCC能在保留关键推理步骤与答案正确性的同时有效缩短推理轨迹，并为其压缩决策同步生成自然语言解释。在代表性多模态推理基准上的大量实验表明，XMCC不仅缩短推理长度，还提供可解释的说明，验证了其有效性。

弥合效率与透明度：多模态大型推理模型中的可解释CoT压缩 — 图2：XMCC概览。(a) 该框架由三个阶段组成：(I) 从异构MLRM合成多样的长CoT；(II) 使用所提出的奖励函数通过RL训练一个可解释的压缩器；(III) 在压缩后的CoT上进行SFT以实现高效推理。(b) 在所提出的奖励函数中，步骤级关键性奖励评估每个片段对任务表现的贡献，以确保压缩推理的质量。长度奖励则使压缩强度与任务复杂度相适应。