论文
了解基于开源 LLM 的多Agent系统中的问题、原因和解决方案
Understanding Issues, Causes and Solutions in Open-Source LLM-based Multi-Agent Systems
摘要
随着基于 LLM 的多Agent系统 (MAS) 的进步,越来越多的开源项目正在采用多Agent架构作为其核心功能的基础。尽管MAS的研究和实践引起了相当大的关注,但有限的研究探讨了基于开源LLM的MAS从业者所面临的挑战、这些挑战的原因以及潜在的解决方案。为了解决这一差距,我们进行了实证研究,以了解从业者在开发和使用基于开源LLM的MAS时遇到的问题、这些问题的可能原因以及潜在的解决方案。我们从 21 个基于 LLM 的开源 MAS 中收集了 22,848 个已解决的问题,并应用混合自动和手动过滤方法将数据集减少到 944 个与基于 LLM 的 MAS 相关的问题。然后,我们分析了这些问题,以了解从业者遇到的常见问题、其根本原因和潜在的解决方案。我们的研究结果表明,(1)编排和执行问题是从业者面临的最常见问题,(2)工作流程问题、工具集成问题和内存问题被认为是问题的最常见原因,(3)优化工作流程是问题的主要解决方案。根据研究结果,我们为从业者和研究人员得出基于经验的启示,旨在改进基于大语言模型的 MAS 中的编排、工具集成和记忆机制。