论文

超越通才 LLM:用于结构化代码工作流执行的专业代理系统

Beyond Generalist LLMs: Specialist Agentic Systems for Structured Code Workflow Execution

智能体系统Agent Harness

摘要

大语言模型 (LLM) 加速了软件开发代理的采用,目前已作为集成开发环境 (IDE) 扩展和独立应用程序广泛提供。虽然这些代理通常是通用的,但目前尚不清楚专业代理是否证明他们额外的开发工作是合理的。我们在业务流程自动化的背景下研究这个问题,重点关注业务流程模型和符号(BPMN)图到可执行代理工作流程的转换。由于 BPMN 指定了显式的控制流语义,因此我们专注于确定性工作流程,其中固定的流程模型和输入唯一地确定执行路径。我们为此任务引入了一个专业工作流程,并将其与 Roo 和 Cline 等多面手代理进行比较。我们的结果表明,专业解决方案生成的代理在工具使用准确性方面优于通才基线约 9-20 个百分点,惩罚调整延迟提高了 2-4 倍,工具调用错误减少了 3 倍,同时将生成词元成本降低了 95% 以上并消除了修复迭代。我们还发现,通才代理生成的代码在功能和质量上都不一致,限制了它们对可靠性和可维护性至关重要的工业环境的适用性。