基于新颖性的思维树搜索用于LLM推理与规划

尽管思维链、思维树或强化学习等进展提升了LLM在推理与规划任务上的性能，它们依然脆弱，在许多领域未达人类水平，且常承受高时间与token成本。受规划领域宽度搜索成功的启发，我们探索如何把「新颖性」概念迁移到语言领域、以及它如何改进思维树推理。思维树依赖构建连续想法的可行「路径」，由反复提示LLM生成。本文提出一个可度量的新颖性概念：描述新节点（想法）相对搜索树中已有节点的独特性。新颖性通过提示LLM并利用预训练嵌入的通用知识来估计。该指标可用于剪枝分支、缩小搜索范围。虽然此法在每个状态引入更多提示，但剪枝与缩小树的总规模可降低整体token成本。我们在多个基于语言的规划与通用推理基准上测试并比较了该流程。