论文
通过因果推理发现基于 LLM 的多代理系统的高效且可解释的通信拓扑
Discovering Efficient and Explainable Communication Topologies for LLM-based Multi-Agent Systems via Causal Inference
摘要
基于 大语言模型 (LLM) 的多代理系统 (MAS) 的性能很大程度上取决于有效的通信拓扑。然而，现有的拓扑生成方法通常通过仅由任务级奖励驱动的黑盒优化来学习通信拓扑。虽然有效，但这种优化无法深入了解为什么选择特定通信边缘，从而很难识别负责成功协作的关键通信子图。为了解决这个限制，我们提出了 E2-Explainer，一个与模型无关的框架，用于为任意拓扑生成器生成的通信拓扑提供可解释的解释。具体来说，我们将拓扑解释制定为因果归因问题，该问题识别由任务保留的边缘级证据支持的紧凑通信子图。我们通过格兰杰式的目标来获取这一证据，该目标衡量屏蔽每个沟通渠道如何改变任务结果和最终响应的稳定性。然后将所得的预算子图提炼成摊销解释器，从而实现高效的事后解释，而无需在部署时重复进行边缘级评估。对多个推理和编码基准的广泛实验表明，E2-Explainer 可以识别保持成功协作的关键通信子图。这些子图还可以直接执行以修剪冗余通信边缘，从而显着降低通信成本，同时保持有竞争力的任务性能。