GraphFlow：基于图形的工作流程管理，实现高效 LLM-Agent 服务

当结构化指令（通常称为工作流）引导时，基于 大语言模型 (LLM) 的代理在复杂任务上表现出强大的推理和执行能力。然而，现有的工作流辅助代理服务系统通常依赖于预定义的模板和浅层匹配机制，这限制了它们捕获深层语义关系和泛化到以前未见过的任务的能力。为了解决这些限制，我们提出了一种新的工作流管理范例，它使用统一的图来表示工作流，称为 wGraph，其中每个节点对应于一个原子操作。 wGraph 充当共享基础，可以动态实例化特定于任务的工作流程。在 wGraph 原语的基础上，我们引入了 GraphFlow，这是一个通过两个关键设计将工作流有效集成到代理服务中的系统。首先，自适应工作流生成根据任务语义和约束要求从 wGraph 动态构建工作流。其次，工作流状态管理利用wGraph结构来有效管理键值（KV）缓存，减少代理服务期间的冗余计算。跨五个基准数据集的广泛实验表明，GraphFlow 始终优于最先进的方法，平均性能提高约 4.95 个百分点，同时内存占用减少约 4 美元\倍$。