论文
从失败中学习：小语言模型工具使用代理的异构图内存
Learning from Failures: Heterogeneous Graph Memory for Small Language Model Tool-Using Agents
摘要
中小型语言模型为使用工具的代理提供了经济高效的执行器，使其对本地和大规模部署具有吸引力。然而，在长期和有状态的环境中，它们经常会犯结构性错误，例如缺少所需的观察、执行过早的写入、重复失败的调用以及违反操作先决条件。这些错误可能导致不正确的状态更新、策略违规以及代价高昂或不可逆转的后果，从而使可靠的工具执行成为关键的部署挑战。现有的微调方法需要大量数据和计算，而平面内存可能会检索失败的操作，而不保留其因果上下文或安全条件。在本文中，我们提出了 FRESH，一种基于经验结构化异构图的故障感知检索框架，它将历史成功和失败转化为工具使用代理的结构化外部经验。通过对任务、操作、错误、修复和执行条件之间的依赖关系进行显式建模，FRESH 可以帮助冻结的语言模型重用可靠的策略，避免重复出现的故障，并在有状态工具交互中做出更安全的决策。在 $\tau$-Bench 和 AppWorld 上使用多个开源模型进行的实验表明，与无内存代理和基于内存的代表性基线相比，FRESH 持续提高了任务成功率和工具使用可靠性。