发现共享逻辑子空间：通过自然语言和符号视图的对齐引导 LLM 逻辑推理

大语言模型 (LLM) 仍然在多步逻辑推理中挣扎。现有的方法要么纯粹以自然语言形式完善推理链，要么附加符号求解器作为外部模块。在这项工作中，我们转而询问 LLM 是否包含一个共享的内部逻辑子空间，该子空间同时对齐推理过程的自然语言和符号语言视图。我们的假设是，这个逻辑子空间捕获了 LLM 中的逻辑推理能力，这些能力在视图之间共享，同时保持独立于表面形式。为了验证这一点，我们对自然语言和符号语言推理链的配对残差激活进行典型相关分析，学习具有最大跨视图相关性的低维子空间。此外，我们设计了一种 无需训练 方法，沿着这个逻辑子空间引导 LLM 推理链，从而利用两个视图的互补推理信号。对四个逻辑推理基准的实验证明了我们方法的有效性，将准确性提高了 11 个百分点，并且很好地概括了域外问题。