更多的雅普更少的意义：揭示 SLM 中的自我改进行为

最近，语言模型在各个领域和应用程序中取得了快速进展。然而，他们的自我完善能力，即是否善于识别和纠正自己推理中的缺陷，仍然值得怀疑。在本研究中，我们通过构建充分性测试来严格检查小语言模型（SLM）的自我纠正能力来解决这个问题。我们提出了一个最小的三步自我纠正管道，该管道收集初始 SLM 答案，提示同一模型在给定 真值 的情况下为其错误响应生成提示，并向模型提供相同的问题及其自己的反馈以完善初始答案。我们在此实验设置中基于算术和逻辑推理基准评估了各种指令调整和推理 SLM。我们的研究结果表明，注入提示句的 SLM 只比初始问答准确率提高了 4.4%。尽管在模型的错误推理中提供了正确的答案，但评估的 SLM 无法理解其推理中缺少的内容，并且在导致纠正的提示和未纠正的提示之间显示出最小的语义差异。此外，我们的实验表明，较长的提示与不正确的最终答案呈正相关，这表明对问题进行较长时间的审议可能会阻碍推理过程，这意味着 SLM 不一定会随着计算预算的增加而提高性能。