论文

基于蚁群优化的高效可解释多智能体LLM路由

Efficient and Interpretable Multi-Agent LLM Routing via Ant Colony Optimization

智能体系统上下文与知识记忆Agent 协作Agent记忆

摘要

由大语言模型(LLM)驱动的多智能体系统(MAS)在复杂推理和工具使用方面展现出强大能力,而异构智能体池进一步拓宽了质量-成本权衡空间。尽管有这些进展,现实部署仍常受制于高推理成本、延迟和有限的透明度,这阻碍了可扩展且高效的路由。现有路由策略通常依赖昂贵的基于LLM的选择器或静态策略,在动态负载和混合意图下对语义感知路由的可控性有限,常导致性能不稳定和资源利用低效。为解决这些局限,我们提出AMRO-S,一个面向多智能体系统(MAS)的高效且可解释的路由框架。AMRO-S将MAS路由建模为语义条件化的路径选择问题,通过三个关键机制提升路由性能:首先,它利用监督微调(SFT)的小语言模型进行意图推断,为每个查询提供低开销的语义接口;其次,它将路由记忆分解为任务特定的信息素专家,减少跨任务干扰并在混合工作负载下优化路径选择;最后,它采用质量门控的异步更新机制将推理与学习解耦,在不增加延迟的情况下优化路由。在五个公开基准上的大量实验和高并发压力测试表明,AMRO-S相对强路由基线持续改善质量-成本权衡,并通过结构化信息素模式提供可追溯的路由证据。

基于蚁群优化的高效可解释多智能体LLM路由:论文配图
图 2:AMRO-S 的架构。 (a) 分层图 G=(V,E)G=(V,E) 和信息素专家的离线构建。 (b) 通过 SFT-SLM 权重 w⁡(q)w(q) 跨三个阶段进行在线路由,其中​​节点代表(LLM、方法、角色)实例。 (c) 使用 LLM-Judge 质量门控 (g∈{0,1}g\in\{0,1\}) 进行异步演化,用于背景信息素强化,无需服务开销。