论文
扩展团队还是扩展时间? LLM 多代理系统中的内存支持终身学习
Scaling Teams or Scaling Time? Memory Enabled Lifelong Learning in LLM Multi-Agent Systems
摘要
大语言模型 (LLM) 多代理系统可以沿着两个不同的维度进行扩展:通过增加代理的数量以及通过随着时间的推移积累的经验进行改进。尽管之前的工作已经分别研究了这些维度,但它们在现实成本限制下的相互作用仍不清楚。在本文中,我们介绍了多智能体系统的概念缩放视图,该系统共同考虑了团队规模和终身学习能力,并研究了内存设计如何共享这一景观。为此,我们提出了 \textbf{LLMA-Mem},一种用于灵活内存拓扑下的 LLM 多智能体系统的终身内存框架。我们在 \textsc{MultiAgentBench} 上跨编码、研究和数据库环境评估 LLMA-Mem。根据经验,LLMA-Mem 持续提高了基线的长期性能,同时降低了成本。我们的分析进一步揭示了一个非单调的扩展格局:较大的团队并不总是能产生更好的长期绩效,而当内存更好地支持经验的重用时,较小的团队可以胜过较大的团队。这些发现将内存设计定位为随着时间的推移更有效地扩展多智能体系统的实用途径。