论文

过程内上下文学习:通过动态示例插入增强数学推理

Process In-Context Learning: Enhancing Mathematical Reasoning via Dynamic Demonstration Insertion

上下文与知识检索增强

摘要

上下文学习(ICL)已在多种大语言模型(LLM)任务上被证明非常有效。然而,它在增强需要逐步逻辑演绎的任务(如数学推理)方面的潜力仍未被充分探索。现有 ICL 方法的一个核心局限是对示例的静态使用:示例在推理前预先选定并保持固定,无法适应多步推理中经常出现的动态困惑点,例如含糊的计算或逻辑缺口。这些未解决的困惑点可能引发级联错误,降低最终准确率。为解决这一问题,我们提出过程内上下文学习(PICL),一个通过响应实时推理需求来增强数学推理的动态示例集成框架。PICL 分两个阶段运作:1) 它通过分析推理过程中的语义与熵来识别潜在困惑点,并总结其核心特征;2) 在遇到这些点时,从示例池中检索与困惑上下文匹配的相关示例,并直接插入正在进行的推理过程以引导后续步骤。实验表明,PICL 通过缓解推理中段的困惑超过基线方法,凸显了自适应示例插入在复杂数学推理中的价值。

过程内上下文学习:通过动态示例插入增强数学推理
(b) 不同推理方法的示意图。