论文
GeoSearcher:带有过程监督的遥感视觉定位的锚引导渐进推理
GeoSearcher: Anchor-Guided Progressive Reasoning for Remote Sensing Visual Grounding with Process Supervision
摘要
最近的多模态 大语言模型 (MLLM) 在视觉定位方面表现出了强大的跨模态理解和坐标生成能力。然而,将这些能力转移到遥感视觉定位(RSVG)仍然具有挑战性。高分辨率遥感图像通常覆盖大范围场景,其中目标通常非常小,并且周围有许多视觉上相似的干扰物。同时,查询往往包含多种线索,如参考对象、空间关系、目标属性等。现有的基于 MLLM 的方法通常将 RSVG 制定为一步坐标生成,这可能会导致小目标定位和复杂查询的预测不稳定。为了应对这些挑战,我们提出了 GeoSearcher,它将 RSVG 重新表述为锚引导的渐进推理过程,并通过两个耦合阶段实现它:锚中心推理监督 微调 (ACR-SFT) 和过程忠实组相对策略优化 (PF-GRPO)。在 ACR-SFT 中,以锚点为中心的推理数据用于教导模型将关键视觉线索表示为锚点,并逐步整合它们周围的位置、关系和属性线索。在PF-GRPO中,过程感知奖励(PAR)和推理信息样本选择器(RISS)通过联合评估关键推理步骤和目标定位来进一步优化这种推理行为,同时重点训练更有利于改进渐进推理的样本。通过这种设计,GeoSearcher 将大规模视觉搜索转变为更受约束的局部推理过程。在 DIOR-RSVG、OPT-RSVG 和 VRS-Bench 上进行的大量实验表明,GeoSearcher 的性能优于现有的最先进方法。该项目将发布在https://github.com/wangdianyu954-xixi/GeoSearcher。