论文
一个三段论探针:追踪大语言模型逻辑推理的演化
A Syllogistic Probe: Tracing the Evolution of Logic Reasoning in Large Language Models
摘要
人类的逻辑逐渐从直觉驱动的推理转向严格的形式系统。受大语言模型(LLM)近期进展的启发,我们探究LLM在底层逻辑框架上是否呈现类似的演化。我们以存在导入(existential import)为探针,在传统逻辑与现代逻辑下评估三段论。通过在一个新的三段论数据集上对SOTA LLM进行大量实验,我们得到一些有趣的发现:(i)模型规模扩展促进向现代逻辑的转变;(ii)思维(Thinking)是超越参数扩展的高效加速器;(iii)Base模型在决定这一转变出现得多么容易和稳定方面起着关键作用。除这些核心因素外,我们还进行了额外的实验,深入分析当前LLM在三段论推理上的特性。
