论文

见我所见,知我所想:跨异构代理的密集潜在通信

See What I See, Know What I Think: Dense Latent Communication Across Heterogeneous Agents

智能体系统Agent 协作

摘要

多代理系统主要通过文本进行通信,从而付出有损且昂贵的解码和重新编码成本。 KV 缓存通信是一种有前途的替代方案,但大多数先前的工作都是同构的,使用同一模型的重复副本,并避免了跨模型潜在对齐的核心挑战;现有的异构方法也具有限制性,通常假设共享输入并主要使用传输的缓存进行引导。我们研究一个更基本的问题:异构智能体是否能够很好地协调起来,以执行真正的“读心术”并传输一个智能体所看到的内容和它的想法?我们的信息结构分析揭示了一种二元性:上下文感知传输是由稀疏推理信号驱动的,而上下文无感知传输(接收者看不到输入)需要密集的上下文知识保存。受此启发,我们提出通过轻量级跨模型缓存转换和两阶段训练(重建和生成)对异构 KV 缓存通信进行密集对齐。在 {Qwen3-4B, 8B, 14B} 的所有六个方向以及六个域内和域外基准测试中,我们的方法优于先前的异构基线,以大约 2 到 3 倍的低计算量匹配或超过上下文感知设置中的文本通信,并且在先前方法崩溃的上下文无感知传输中保持有效。