论文

HippoSpark:面向LLM推理的按需经验系统

HippoSpark: An On-Demand Experience System for LLM Reasoning

上下文与知识记忆Agent记忆

摘要

把历史轨迹蒸馏为可复用经验以增强未来问题解决已成为近期LLM研究的焦点。但既有方法主要在任务级运作——利用通用摘要或规则,假设类似任务共享通用解决模式。这在复杂推理中常失败:推理通常在需要精确、状态专属指导而非宽泛启发式的局部瓶颈处受挫。我们引入HippoSpark:一个状态级经验系统——执行按当前推理状态即时需求定制的按需检索。跨数学、科学与编程基准:HippoSpark持续超越标准提示与任务级经验基线。发现揭示:最有效的经验系统是那些在关键瓶颈处提供可行动指导的,而非充当通用任务级上下文。

HippoSpark:面向LLM推理的按需经验系统:论文配图
图 1:HippoSpark 的动机和概述。现有的体验系统依赖于任务级重用,这通常过于粗糙,当推理陷入特定的中间状态时无法提供帮助。受不确定性下海马回忆的启发,HippoSpark 仅在下一步行动不明确时调用经验,构建可操作的经验以突破当前瓶颈,从而提供有针对性的州级指导。