论文
专注即所需:多智能体图系统的自适应目标感知注意力编排
Focus Is All You Need: Adaptive Goal-aware Attention Orchestration for Multi-Agent Graph Systems
摘要
大语言模型(LLM)催生了能够推理、规划与使用工具的自主智能体。近期系统日益把这些智能体组织为由专门化、互连节点构成的图。尽管基于图的编排支持灵活的分解与协调,它也带来一个关键挑战:注意力分配。随着工作流增长,现有方法往往均匀地执行图组件,把资源浪费在不相关或低影响的任务上。我们提出注意力编排(Attention Orchestration),这一范式把Transformer风格的注意力从词元表示扩展到工作流级的智能体协调。我们的框架AGAO(自适应目标感知注意力编排)基于用户目标、图依赖与计算约束动态估计智能体重要性。AGAO结合三个组件:(1)目标感知注意力,度量用户目标与智能体能力之间的语义相关性;(2)拓扑感知注意力,建模智能体图中的结构依赖;(3)资源感知注意力,在异构智能体之间分配预算与执行优先级。这些机制共同把静态智能体图转化为自适应系统,将计算聚焦于目标关键的推理路径。在多样多智能体工作负载上的实验表明,与现有基于图的执行策略相比,AGAO在提升任务效果的同时减少了不必要的计算、延迟与词元消耗。我们的工作确立了注意力工程(Attention Engineering)作为可扩展、智能的多智能体系统的一个方向。代码:https://github.com/MingzhouFan97/AGAO。
