幻觉有用吗？通过链接系统 I/II 推理使用 SLM 解决多跳问题

最近，人们对小语言模型 (SLM) 的兴趣日益浓厚，它速度快、性能好，并且比 大语言模型 (LLM) 的硬件要求更低。然而，SLM 比 LLM 更频繁地产生幻觉，影响了它们解决复杂的多步骤推理问题的能力，因为早期的错误会级联到最终的响应。为了解决这个问题，现有的工作先思考，然后迭代检索以减少幻觉。我们认为，“思考优先”策略并不总是必要的，因为我们发现：(i) SLM 通常对其最初的答案非常有信心，(ii) 幻觉实际上有利于磨练真正的答案。因此，我们将我们的工作定位为该策略的反转，即稍后回答第一个原因。我们提出了一个受认知启发的框架，其中模型首先被允许快速回答问题（系统 I（零样本）），然后根据使用初始假设从知识源检索的证据进行更深入的思考（系统 II）。通过结合 System-I 和 System-II 风格的思维，我们表明我们的方法可以优于在各种多步骤问答基准上采用传统思考优先路线的先前工作。