PaT：试验后规划以实现高效的测试时代码生成

除了训练时间优化之外，扩展测试时间计算已成为扩展 大语言模型 (LLM) 推理能力的关键范例。然而，大多数现有方法采用严格的试验前规划（PbT）策略，即使在可直接解决的问题上也会产生规划开销，从而导致测试时计算的分配效率低下。我们提出了试验后规划（PaT），这是一种用于代码生成的自适应策略，仅在验证失败时调用规划器。这种自适应策略自然会实现异构模型配置：具有成本效益的模型处理生成尝试，而强大的模型则用于有针对性的规划干预。根据经验，在多个基准和模型系列中，我们的方法显着提高了性价比帕累托前沿。值得注意的是，我们的异构配置实现了与大型同构模型相当的性能，同时将推理成本降低了约 69%。