论文
Skill-MAS:以可演进元技能生成多Agent系统
Skill-MAS: Evolving Meta-Skill for Automatic Multi-Agent Systems
摘要
基于 大语言模型 (LLM) 的自动多代理系统 (MAS) 生成已成为处理复杂任务的关键前沿。然而,现有方法面临模型能力和经验保留之间的困境。推理时间 MAS 利用冻结前沿 LLM,但会重复相同的搜索,而不从过去的经验中学习。相反,训练时间 MAS 通过梯度更新内化经验,但受到较小模型的低能力上限的限制,并且很难扩展到大前沿 LLM。为了弥补这一差距,我们提出了 Skill-MAS,这是一种新颖的第三条路径,通过将高级编排功能概念化为可进化的元技能,将体验保留与参数更新分离。 Skill-MAS 通过一个闭环优化循环来完善这种架构知识:(1)多轨迹采样对当前 Meta-Skill 下每个任务的行为分布进行采样; (2)选择性反思自适应地选择优先任务并应用分层对比分析将系统经验提炼成可推广的战略级原则。跨越四个复杂基准和四个不同 LLM 的大量实验表明,Skill-MAS 不仅实现了显着的性能提升,而且还保持了有利的性价比权衡。进一步的分析表明,进化后的元技能非常稳健,并且在未见过的任务和不同的 LLM 之间表现出强大的可迁移性。