GCoT-Decoding：解锁通用问答的深度推理路径

思想链推理可以增强大语言模型，但需要手动设计提示来指导模型。最近提出的 CoT 解码使模型能够在没有提示的情况下生成 CoT 式推理路径，但它仅适用于具有固定答案集的问题。为了解决这个限制，我们提出了一种通用解码策略 GCoT 解码，将适用性扩展到更广泛的问答任务。 GCoT 解码采用结合斐波那契采样和启发式错误回溯的两阶段分支方法来生成候选解码路径。然后，它将每条路径分为推理范围和答案范围，以准确计算路径置信度，最后聚合语义相似的路径以识别共识答案，取代传统的多数投票。我们对涵盖固定和免费 QA 任务的六个数据集进行了广泛的实验。我们的方法不仅在固定 QA 上保持了强大的性能，而且在自由 QA 上也取得了显着的改进，证明了其通用性。