论文

CR-Seg:注意力引导和 CoT 增强的粗到精推理分割

CR-Seg: Attention-Guided and CoT-Enhanced Coarse-to-Refined Reasoning Segmentation

模型推理推理策略与问题分解

摘要

推理分割旨在通过视觉-文本联合推理对复杂语言描述的目标对象进行分割。现有的方法通常依赖于学习的语义标记来桥接多模态 大语言模型 (MLLM) 和分割模型,因为跨模态对齐很困难,或者依赖于明确的空间提示(例如边界框),这可能会丢失整体响应语义。为了解决这些限制,我们提出了注意力引导和 CoT 增强的粗略到精细推理分割,称为 CR-Seg,这是一种用于粗略到精细推理分割的两阶段框架。具体来说,我们设计了一个提取注意力图和点(EAP)模块来提取注意力图以进行粗目标定位并选择信息点,这两者都被输入到 SAM 中以进行掩模细化。为了缓解推理-答案不一致的问题,我们进一步引入了全局到局部的思想链(GLCoT),它引导模型从全局场景上下文逐步推理到局部目标细节。推理分割基准的大量实验证明了 CR-Seg 的有效性。