用于改进推理和上下文修剪的结构化思维

大语言模型 (LLM) 擅长生成长的思维链，但长的推理痕迹通常很冗长且内存效率低下。在这项工作中，我们引入了结构化思维，这是一个将推理组织为交替的 <try> 和 <outcome> 块的框架：<try> 捕获探索性的草稿工作，而 <outcome> 包含该步骤的提炼结论。我们通过将推理轨迹分段为 <try> 块并提示 LLM 将每个步骤总结为其相应的 <outcome> 来构建结构化思维数据集。 微调 基于此重新格式化数据的预训练基础模型生成采用结构化推理风格的模型，与标准 SFT 相比，推理基准的性能提升高达 8.08%。显式结构还支持上下文修剪：在每个 <try>/<outcome> 对之后，可以修剪 <try>，从而允许模型保留结论，而无需在上下文中保留完整的临时工作。概念验证修剪实现平均节省了 85% 的内存/上下文，但数学任务的性能下降了 8.67%。