论文
简洁几何描述作为桥梁:释放LLM解平面几何问题的潜力
Concise Geometric Description as a Bridge: Unleashing the Potential of LLM for Plane Geometry Problem Solving
摘要
平面几何问题求解(PGPS)是一个多模态推理任务,旨在基于几何图形和问题文本描述求解平面几何问题。虽然大语言模型(LLM)具有很强的推理能力,但它们无法处理视觉图形,阻碍了其直接应用。现有工作通常在大规模PGPS数据上端到端微调多模态LLM(MLLM),以同时增强视觉理解和推理。然而,这种联合优化可能损害基座LLM固有的推理能力。在这项工作中,我们观察到,当将视觉信息适当地形式化为文本描述时,LLM本身就是潜在的强大PGPS求解器。我们提出训练一个MLLM解释器为视觉图形生成几何描述,并使用现成的LLM执行推理。具体而言,我们选择条件声明语言(CDL)作为几何描述,因其简洁性便于MLLM解释器的训练。MLLM解释器通过CoT(思维链)增强的SFT以及随后的GRPO微调以生成CDL。我们没有使用将推理结果与真值答案比较的常规基于解答的奖励,而是设计了CDL匹配奖励以促进更有效的GRPO训练,为CDL生成提供更直接、更密集的引导。为支持训练,我们构建了新数据集Formalgeo7k-Rec-CoT,通过人工审核Formalgeo7k v2并纳入CoT标注。在Formalgeo7k-Rec-CoT、Unigeo和MathVista上的大量实验表明,我们的方法(仅在5.5k数据上微调)与领先的开源和闭源MLLM相比表现良好。
