论文
学习保留什么：通过门控记忆路由实现多智能体大语言模型系统的高效协作
Learning What to Retain: Gated-Memory Routing for Efficient Collaboration in Multi-Agent LLM Systems
摘要
基于大语言模型 (LLM) 的多代理系统通过协调多个代理的配置方式以及它们的协作方式来处理复杂的推理。一个核心挑战是使编排适应不断变化的协作状态。仅从查询进行路由无法适应中间进度或错误，这会损害准确性。从完整的执行历史记录中进行路由可以提供缺失的上下文，但会迫使后续决策处理每个先前的步骤，包括冗余或低效用的步骤。这会造成执行历史记录过载，从而增加成本。相反，有效的编排需要一个紧凑的状态来捕获有用的进展而不积累冗余的上下文。我们提出门控内存路由，它以查询和学习的执行内存为每个决策的条件。学习的内存写入门仅提交非冗余推理步骤，学习的检索门为每个代理提供紧凑的相关子集，因此每个决策都以干净的信息丰富的状态为条件。在每一步中，系统都会从该内存中选择下一个角色和主干，而一旦内存包含足够的答案证据，自适应停止控制器就会停止执行。在五个推理和代码生成基准中，我们的框架既有效又高效：它获得了最佳平均准确度，超出最强基线 2.44 个点，同时相对于该基线将 HumanEval 推理成本降低了 31.9%。代码可在 https://github.com/rajibrhasan/lated-memory-routing 获取
