论文
Chain of Simulation:带动态问题路由的 LLM 双模式推理框架
Chain of Simulation: A Dual-Mode Reasoning Framework for Large Language Models with Dynamic Problem Routing
摘要
我们提出 Chain of Simulation(CoS),一个新颖的双模式推理框架,将问题动态路由到大语言模型(LLM)中专门的推理策略。与现有统一提示方法不同,CoS 采用三种不同的推理模式:(1)面向数学问题的计算流加自洽性;(2)面向空间推理的、基于 JSON 表示的符号状态追踪;(3)面向多跳推理的混合事实抽取。通过在 GSM8K、StrategyQA 和 bAbI 基准上使用四个最先进模型(Gemma-3 27B、LLaMA-3.1 8B、Mistral 7B 和 Qwen-2.5 14B)的全面评估,我们证明与最强基线相比,CoS 在 GSM8K 上达到 71.5% 准确率(绝对提升 1.0%)、StrategyQA 上 90.0%(提升 2.5%)、bAbI 上 19.0%(相对提升 65.2%)。分析揭示按问题选择模式至关重要:计算模式在正确应用于数学问题时达到 81.2% 准确率,而错误路由导致 0% 准确率。我们提供模式选择、状态追踪与答案抽取的详细算法,确立 CoS 是无需额外训练即可改进 LLM 推理的有效方法。该框架与 Self-Consistency 相比在准确率与效率之间提供更优权衡,以低 54% 的计算成本达到可比性能。
