论文
递归多智能体系统
Recursive Multi-Agent Systems
摘要
递归或循环语言模型近来作为一种新的扩展维度兴起,它通过在潜状态上迭代细化同一模型的计算来深化推理。我们将这一扩展原则从单一模型扩展到多智能体系统,并提出问题:智能体协作本身能否通过递归来扩展?为此,我们提出RecursiveMAS,一个将整个系统视为统一潜空间递归计算的递归多智能体框架。RecursiveMAS通过轻量的RecursiveLink模块将异构智能体连接成协作环,实现分布内潜思维生成和跨智能体潜状态传递。为优化该框架,我们开发了内外环学习算法,通过跨递归轮次的共享梯度贡献归因实现迭代式全系统协同优化。对运行时复杂度和学习动力学的理论分析证明,RecursiveMAS比标准的基于文本的多智能体系统(MAS)更高效,并在递归训练期间保持梯度稳定。在实证方面,我们在4种代表性智能体协作模式下实例化RecursiveMAS,并在涵盖数学、科学、医学、搜索和代码生成的9个基准上进行评估。与先进的单/多智能体及递归计算基线相比,RecursiveMAS持续带来平均8.3%的准确率提升,以及1.2倍-2.4倍的端到端推理加速和34.6%-75.6%的token使用量降低。代码和数据见 https://recursivemas.github.io。
