论文
用于工具路由大语言模型的 Synapse Compendium 感知联合知识交换
Synapse Compendium Aware Federated Knowledge Exchange for Tool Routed LLMs
摘要
联合学习下基于 LLM 的代理之间的协作学习面临挑战,包括通信成本、数据异质性和工具使用,限制了其有效性。我们引入 Synapse,这是一个训练工具使用行为的共享全局知识模型的框架。具有固定 LLM 的客户端代理在本地学习工具使用模式,并通过协调器传输用于联合聚合的工件。全球工具纲要得到更新和重新分发,从而实现稳定工具选择的融合。 Synapse 使用模板化表示、通过 LLM 重新排名嵌入检索以及自适应屏蔽来保持实用性,同时限制信息泄漏。该框架支持异构数据并量化性能改进。结果表明,与多代理 LLM 系统中的权重或提示共享方法相比,Synapse 提高了工具使用效率并减少了通信开销。
