多Agent LLM 无法相互探索

探索对于多智能体系统中可靠的自主性至关重要，但目前尚不清楚 大语言模型 (LLM) 智能体在相互交互时是否可以有效地进行探索。我们表明，现代 LLM 智能体无法做到这一点，经常表现出短视和两极分化的交互模式，导致协调不佳和后悔增加。我们将这一挑战形式化为多智能体探索问题，将其建模为部分可观察随机博弈（POSG）问题，其中智能体必须探测同伴以推断其能力并确定有效的交互策略。为了解决这个问题，我们引入了多智能体上下文探索（MACE），这是一个轻量级框架，可以通过结构化的同伴选择来明确促进探索。在上下文和参数多样性设置中，MACE 显着改善了探索行为和下游任务性能。我们进一步从理论上证明，探索的价值随着代理的多样性而增加。总的来说，我们的结果凸显了当前 LLM 智能体的根本局限性，并强调了明确引导探索对于可靠的多智能体自治的重要性。代码将在 https://github.com/deeplearning-wisc/mace 发布