论文
HippoSpark:面向LLM推理的按需经验系统
HippoSpark: An On-Demand Experience System for LLM Reasoning
摘要
把历史轨迹蒸馏为可复用经验以增强未来问题解决已成为近期LLM研究的焦点。但既有方法主要在任务级运作——利用通用摘要或规则,假设类似任务共享通用解决模式。这在复杂推理中常失败:推理通常在需要精确、状态专属指导而非宽泛启发式的局部瓶颈处受挫。我们引入HippoSpark:一个状态级经验系统——执行按当前推理状态即时需求定制的按需检索。跨数学、科学与编程基准:HippoSpark持续超越标准提示与任务级经验基线。发现揭示:最有效的经验系统是那些在关键瓶颈处提供可行动指导的,而非充当通用任务级上下文。
