ISM：持续数学推理的自我改进策略记忆

摘要

我们提出了智能模式内存（ISM），这是一种自我进化的记忆增强系统，可以在持续学习和硬性情景重置的情况下改进冻结的 LLM 的数学推理。 ISM 维护着一个紧凑的、自我完善的策略模式库，这些策略模式是从成功和失败的事件中学到的，并带有检查中间步骤和验证答案的符号工具。在不更新模型参数的情况下，ISM 在 MATH-Hard 和 OlympiadBench 上的表现优于被动基线、检索基线和反射基线，与最强的被动基线相比，使用的模式分别减少了 64% 和 86%。这些结果表明，小型、主动维护且经过验证的策略记忆可以在严格的情景隔离下支持可靠的连续数学推理。代码库位于 https://github.com/pdx97/ISM 。