通过思想压缩进行语言分割的高效推理

思想链（CoT）推理显着提高了大型多模态模型在语言引导分割中的性能，但其由于生成冗长的基本原理而导致的计算成本过高，限制了现实世界的适用性。我们引入 WISE（来自内部自我探索的智慧），这是一种以 \textit{三思而行——一次为了学习，一次为了速度}原则为指导的高效推理的新颖范式。 WISE 训练模型来生成结构化序列：简明的基本原理、最终答案，然后是详细的解释。通过将简洁的基本原理放在首位，我们的方法利用自回归条件来强制简洁的基本原理充当生成详细解释的充分摘要。这种结构通过自我 蒸馏 目标得到强化，该目标共同奖励语义保真度和简洁性，迫使模型将其详细推理内化为紧凑的形式。据此推论，省略详细说明。为了解决由此产生的条件分布变化，我们的推理策略 WISE-S 采用了一种简单的提示技术，将简洁的指令注入到用户的查询中。最终的调整有助于强有力地激活所学习的简洁策略，从而释放我们框架的全部优势。大量实验表明，WISE-S 在 ReasonSeg 基准测试中以 58.3 cIoU 实现了最先进的零样本性能，同时将平均推理长度减少了近 \textbf{5$\times$} - 从 112 个词元减少到仅 23 个词元。代码可在 \href{https://github.com/mrazhou/WISE}{WISE} 获取。