大语言模型中逻辑推理的知识向量

逻辑推理是LLM的核心能力，包括三种主要形式：演绎推理、归纳推理和溯因推理。在这项工作中，我们研究了 LLM 中这些推理类型的知识表示，并分析了它们之间的相关性。我们的分析表明，每种形式的逻辑推理都可以被捕获为线性表示空间中特定于推理的知识向量，但这些向量在很大程度上彼此独立。受认知科学理论的启发，逻辑推理的这些子形式在人脑中密切相互作用，以及我们观察到一种类型的推理过程可以受益于另一种类型产生的推理链，我们进一步建议细化 LLM 中每种推理类型的知识表示，以鼓励它们之间的互补性。为此，我们设计了一个互补子空间约束细化框架，该框架引入了互补损失，使每个推理向量能够利用其他推理向量的辅助知识，以及子空间约束损失，以防止擦除其独特特征。通过沿着推理向量进行引导实验，我们发现包含互补知识的精炼向量可以产生一致的性能增益。我们还对每个推理向量进行了机制可解释性分析，揭示了对 LLM 中不同推理的共享和特定特征的见解。