多智能体推理自适应专家组

多Agent系统将具有不同角色的语言模型Agent聚集在一起，以提出、审查和完善解决方案。每个Agent的响应取决于其模型的功能、其系统提示定义的推理策略以及其输入上下文中的信息。现有的框架通常会通过改变上下文来适应通信，同时保持单个提示固定，即使问题需要不同的技能也是如此。我们研究智能体的初始响应是否可以识别出更适合当前问题的策略并指导其转移到其他智能体。为了解决这个问题，我们引入了 SAGE（自适应专家组），这是一个无需培训的框架，它使用答案协议、前缀一致性和相互同行评审来选择策略捐赠者。 SAGE 将所选捐赠者的推理策略转移给其他智能体，同时保留其原始角色。此转移仅使用Agent的原始系统提示，而无法访问问题或生成的解决方案。策略调整后，智能体通过动态、稀疏有向无环图交换响应，该图将信息从得分较高的智能体路由到得分较低的智能体。跨多个Agent主干和推理基准的实验表明，SAGE 比评估的基线实现了更高的平均准确性。我们的代码可在 https://github.com/atifquamar07/sage. 获取