MemSearch-o1：在代理搜索中通过推理对齐内存增长为 大语言模型 提供支持

大语言模型 (LLM) 的最新进展扩大了推理和代理搜索的潜力，其中模型通过外部知识自主规划、检索和推理以回答复杂的查询。然而，迭代的思考-搜索循环会积累较长的系统内存，导致内存稀释问题。此外，现有的内存管理方法很难捕获查询和文档之间的细粒度语义关系，并且经常丢失大量信息。因此，我们提出了 MemSearch-o1，一个基于推理对齐内存增长和回溯构建的代理搜索框架。 MemSearch-o1 从查询的内存种子标记中动态增长细粒度的内存片段，然后通过贡献函数回溯并深度细化内存，最后重新组织全局连接的内存路径。这将内存管理从类似流的串联转变为基于路径推理的结构化 词元级 增长。在8个基准数据集上的实验表明，MemSearch-o1大大减轻了内存稀释，更有效地激活了多种LLM的推理潜力，为内存感知代理智能奠定了坚实的基础。