论文
代理胶囊:多代理 LLM 管道的质量门控粒度控制
Agent Capsules: Quality-Gated Granularity Control for Multi-Agent LLM Pipelines
摘要
具有 N 个代理的多代理管道每次运行通常会发出 N 个 LLM 调用。将代理合并到更少的调用(复合执行)中可以节省词元,但天真的合并调用会通过工具丢失和提示压缩而默默地降低质量。我们提出了 Agent Capsules,这是一种自适应执行运行时,它将多代理管道执行视为具有经验质量约束的优化问题。运行时检测每组的协调开销,对组合机会进行评分,在三种复合执行策略中进行选择,并在滚动平均输出质量上控制每个模式切换。受控的负面结果证实,向合并调用中注入更多上下文会恶化而不是缓解压缩,因此框架的升级阶梯(标准,然后两阶段,然后顺序)通过转向每个代理调度而不是重写合并提示来恢复质量。在 LLM 判断的质量上,控制器在每个测量的(模型、组、模式)单元上匹配手动调整的预言机:每当预言机需要时就路由复合,并在质量失败时恢复到精细,无需每个模型配置。与 14 个智能体竞争情报管道的手工制作的 LangGraph 实现相比,Agent Capsules 使用的精细模式输入词元减少了 51%,复合模式输入词元减少了 42%,质量分别为 +0.020 和 +0.017。与 5 代理尽职调查管道的 DSPy 实现相比,该框架在质量相同的情况下比未编译的 DSPy 使用的词元少了 19%,在质量为 +0.052 的情况下比 MIPROv2 使用的词元少了 68%。即使在复合模式启动之前,运行时也可以通过自动策略解析、缓存对齐提示和拓扑感知上下文注入来提供效率,匹配手动调整和编译时基线,而无需训练数据或每个管道工程。