动态注意力上下文范围:多代理 LLM 编排中独立的每个代理指导的代理触发焦点会话
Dynamic Attentional Context Scoping: Agent-Triggered Focus Sessions for Isolated Per-Agent Steering in Multi-Agent LLM Orchestration
摘要
多代理 LLM 编排系统遭受上下文污染:当 N 个并发代理竞争编排器的上下文窗口时,每个代理的任务状态、部分输出和未决问题会污染每个其他代理的转向交互,从而降低决策质量。我们引入了动态注意力上下文范围(DACS),这是一种协调器以两种不对称模式运行的机制。在注册表模式下,它仅保存轻量级的每个代理状态摘要(每个 <=200 个词元),保持对所有代理和用户的响应。当代理发出 SteeringRequest 时,协调器进入 Focus(a_i) 模式,注入代理 a_i 的完整上下文,同时将所有其他代理压缩到其注册表项。上下文隔离是代理触发的、非对称的和确定性的:上下文窗口在引导过程中恰好包含 F(a_i) + R_{-i},消除了跨代理污染,无需上下文压缩或检索。我们通过四个实验阶段总共 200 次试验来评估 DACS:第 1 阶段在 {3,5,10} 中测试 N(60 次试验);第 2 阶段测试代理异质性和对抗依赖性(60 次试验);第 3 阶段测试决策密度高达 D=15(40 次试验);第 4 阶段使用自主 LLM 代理进行自由形式的问题(40 次试验,Claude Haiku 4.5)。在所有 8 个合成场景中,DACS 的转向精度达到 90.0--98.4%,而平坦上下文基线的转向精度为 21.0--60.0%(始终 p < 0.0001),错误代理污染从 28--57% 下降到 0--14%,上下文效率高达 3.53 倍。精度优势随着N和D的增加而增大;关键字匹配由 LLM-as-judge 在所有阶段进行验证(平均 kappa=0.909)。在第 4 阶段,DACS 在 N=3 (p=0.0023) 时比平面背景基线高出 +17.2pp,在 N=5 (p=0.0008) 时比平坦背景基线高出 +20.4pp,随着 N 得到两名独立评委的确认,优势不断扩大。