论文

面向LLM推理的科学逻辑性增强方法:在物理学中的实践

Scientific Logicality Enriched Methodology for LLM Reasoning: A Practice in Physics

模型训练合成数据

摘要

随着大语言模型(LLM)推理能力的持续提升,其在科学推理任务中的应用获得了显著的研究关注。当前研究主要强调通过在更大、更全面且具有更长推理链的数据集上训练,来提升LLM在科学问答基准上的表现。然而,这些方法忽视了科学推理过程的本质——逻辑性,即确保推理步骤有效并导向可靠结论的理性基础。在本工作中,我们首次系统性地研究了LLM科学推理背后的内在逻辑性,并开发了一套科学逻辑性增强方法,包括一组评估准则和用于逻辑性引导训练的数据采样方法,以提升逻辑忠实度和任务表现。此外,我们选择以逻辑结构与形式体系多样见长的物理学作为示范学科来实践上述方法。在数据构建方面,我们从学术文献中提取科学问题,并采样构建了一个展现出强逻辑性的高质量数据集。基于三个不同骨干LLM的实验揭示:1)我们所构建的训练数据能有效提升LLM推理中的科学逻辑性;2)增强的科学逻辑性在解决科学问题中起着关键作用。代码发布于 https://github.com/ScienceOne-AI/PhysLogic。

面向LLM推理的科学逻辑性增强方法:在物理学中的实践:论文配图
图1:DeepSeek-R1与专业人士的科学推理范式对比:LLM缺乏科学逻辑性的方法论约束。