结构使LLM能够有效自定位错误

语言模型的自我修正仍然难以捉摸。在这项工作中，我们探索语言模型是否可以明确定位不正确推理中的错误，作为构建能够有效自我纠正的人工智能系统的途径。我们引入了一种提示方法，将推理构建为离散的、语义连贯的思维步骤，并表明模型能够可靠地定位该结构内的错误，而在传统的非结构化思维链推理中则无法做到这一点。受人脑如何监控离散决策点的错误并重新采样替代方案的启发，我们引入了思想迭代校正采样（Thought-ICS），这是一种自我校正框架。 Thought-ICS 迭代地促使模型一次生成一个离散且完整的想法的推理（其中每个想法代表模型的深思熟虑的决策），为精确的错误定位创建自然边界。经过验证，模型定位第一个错误步骤，系统回溯以从最后一个正确点生成替代推理。当被要求纠正被预言机验证为不正确的推理时，Thought-ICS 的自我纠正能力提高了 20-40%。在没有外部验证的完全自主的环境中，它的表现优于当代的自我校正基线。