Framework of Thoughts：基于链、树、图的动态优化推理基础框架

思维链、思维树和思维图等提示方案能显著增强大语言模型的推理能力。然而多数现有方案要求用户定义静态的、针对特定问题的推理结构，缺乏对动态或未见问题类型的适应性。此外，这些方案在超参数、提示、运行时和提示成本方面往往优化不足。针对这些局限，我们提出 Framework of Thoughts（FoT），一个用于构建和优化动态推理方案的通用基础框架。FoT 内置超参数调优、提示优化、并行执行和智能缓存功能，释放推理方案的潜在性能。我们在 FoT 中实现思维树、思维图和 ProbTree 三个流行方案来展示其能力。我们实证表明，FoT 通过优化显著加快执行、降低成本并取得更好的任务分数。我们开源代码库，以促进未来动态高效推理方案的开发。