论文

简洁几何描述作为桥梁:释放LLM解平面几何问题的潜力

Concise Geometric Description as a Bridge: Unleashing the Potential of LLM for Plane Geometry Problem Solving

模型训练强化学习RLVR

摘要

平面几何问题求解(PGPS)是一个多模态推理任务,旨在基于几何图形和问题文本描述求解平面几何问题。虽然大语言模型(LLM)具有很强的推理能力,但它们无法处理视觉图形,阻碍了其直接应用。现有工作通常在大规模PGPS数据上端到端微调多模态LLM(MLLM),以同时增强视觉理解和推理。然而,这种联合优化可能损害基座LLM固有的推理能力。在这项工作中,我们观察到,当将视觉信息适当地形式化为文本描述时,LLM本身就是潜在的强大PGPS求解器。我们提出训练一个MLLM解释器为视觉图形生成几何描述,并使用现成的LLM执行推理。具体而言,我们选择条件声明语言(CDL)作为几何描述,因其简洁性便于MLLM解释器的训练。MLLM解释器通过CoT(思维链)增强的SFT以及随后的GRPO微调以生成CDL。我们没有使用将推理结果与真值答案比较的常规基于解答的奖励,而是设计了CDL匹配奖励以促进更有效的GRPO训练,为CDL生成提供更直接、更密集的引导。为支持训练,我们构建了新数据集Formalgeo7k-Rec-CoT,通过人工审核Formalgeo7k v2并纳入CoT标注。在Formalgeo7k-Rec-CoT、Unigeo和MathVista上的大量实验表明,我们的方法(仅在5.5k数据上微调)与领先的开源和闭源MLLM相比表现良好。

简洁几何描述作为桥梁:释放LLM解平面几何问题的潜力
图2:方法概览。(a) 数据构建。我们通过人工审查 Formalgeo7k v2 并引入 Chain-of-Thought(CoT),构建 Formalgeo7k-Rec-CoT。我们设计一个两阶段流水线来训练 MLLM Interpreter,包括 (b) CoT 增强的 SFT 阶段和 (c) 带 CDL Matching Rewards 的 GRPO 阶段。基于生成的 CDL,(d) LLM Solver 直接进行推理并得出最终解答。