思维链如何分解复杂的任务？

许多语言任务可以建模为分类问题，其中 大语言模型 (LLM) 收到提示并从许多可能的答案中选择一个。我们表明，此类问题中的分类误差与类别数量呈幂律关系。这产生了一个戏剧性的结果：通过将整个任务分成一系列较小的分类问题，每个问题具有相同的类数（“程度”），可以大大减少预测误差。这种树形结构分解模型的思想链（CoT）。据观察，基于 CoT 的预测器在“思考”时表现更好，即当它们开发更深的树时，从而将问题分解为更多的步骤。我们确定了该程度的关键阈值，低于该阈值思考是有害的，高于该阈值则存在最小化错误的最佳深度。通过增加思维深度来超越这个最小误差是不可能的。