论文

Evoflux:紧凑智能体的可执行工具工作流推理时演化

Evoflux: Inference-Time Evolution of Executable Tool Workflows for Compact Agents

智能体系统Agent 工具调用Agent Harness

摘要

紧凑语言模型 (LM) 降低了工具代理的成本、延迟和部署风险。然而,MCP 风格的工具使用需要的不仅仅是孤立的函数调用:代理必须从实时目录中发现工具,满足模式,保留中间输出之间的依赖关系,并在执行的证据中提供最终响应。小型规划人员经常生成看似合理的工作流程图,但在工具解析、参数验证、依赖性跟踪或执行下却失败了。我们认为,小语料库蒸馏无法很好地处理这种故障模式。几百个教师跟踪可以教授工作流格式,但很少涵盖修复更改工具目录时失败的计划所需的恢复行为。我们引入了 Evoflux,一种推理时进化搜索方法,它将紧凑工具的使用视为可执行工具工作流程的修复。它通过结构化编辑、执行反馈、自适应强度、元引导重新设计和多样性修剪来发展类型化工作流程图。对于跨越实时 MCP 服务器和 250 个工具的保留 MCP-Bench 任务,Evoflux 将小型规划者的执行可行性从大约 3% 提高到 17-24%。相比之下,SFT 和 SFT+DPO 在相同的搜索挖掘数据上表现匹配、表现不佳或低于零样本性能; ReAct 达到了更高的峰值,但方差和词元成本也更高。这些结果表明,在教师跟踪预算稀缺的情况下,基于执行的搜索更加可靠。

Evoflux:紧凑智能体的可执行工具工作流推理时演化:论文配图
图 1:Evoflux 的动态训练和评估流程。教师模型首先通过执行反馈、打字编辑和大语言模型评审分数生成和完善工作流程,为学生培训生成轨迹和偏好对。在评估时,Evoflux 将基本小模型保持在动态修复循环中,该循环会变异、执行、评分并选择工作流程候选者,而蒸馏推理则在静态一次性设置中使用经过培训的学生。