论文

通过基于熵的理解评估与经验检索引导异构LLM多智能体系统中的协作

Guided Collaboration in Heterogeneous LLM-Based Multi-Agent Systems via Entropy-Based Understanding Assessment and Experience Retrieval

智能体系统Agent 协作

摘要

随着大语言模型(LLM)在推理、规划与复杂任务生成方面的近期突破,人工智能系统正从孤立的单一智能体架构转向具备协作智能的多智能体系统。然而,在异构多智能体系统(HMAS)中,智能体间的能力差异引发持续出现的认知问题,强弱模型都难以有效做出贡献。我们将这种协作定义为强弱系统。通过全面实验,我们揭示了强弱系统中的一个反直觉现象:强弱协作的表现可能不及弱弱组合,这表明认知错配是限制异构协作的关键瓶颈。为克服这些挑战,我们提出基于熵的自适应引导框架(Entropy-Based Adaptive Guidance Framework),使引导与每个智能体的认知状态动态对齐。该框架通过涵盖表达、不确定性、结构、连贯性与相关性等多个维度的熵指标来量化弱智能体的理解程度,并在轻度、中度和重度层级上自适应地调整引导强度。此外,框架还融入检索增强生成(RAG)机制以保留成功的协作经验,实现即时适应与长期学习。在GSM8K、MBPP和CVRP三个基准数据集上的大量实验表明,我们的方法持续增强异构协作的有效性与稳定性。结果凸显,自适应引导不仅缓解认知失衡,还为更稳健的协作式多智能体智能建立起一条可扩展路径。

通过基于熵的理解评估与经验检索引导异构LLM多智能体系统中的协作
图1:在简单数学推理任务上三种智能体配置的协作模式示意图。上:强-强协作通过高效的信息传递得到正确答案(Area = 40)。中:强-弱协作尽管接收到相同的高质量指导,却产生错误答案(Area = 25),表明由认知不匹配导致的信息丢失。下:弱-弱协作凭借匹配的理解水平取得比强-弱更好的性能(Area = 64),揭示了异质协作中的负协同效应。