论文
LLM 代理工厂:检索特定于域的 LLM 代理
LLM Agents Factory: Retrieval of Domain-Specific LLM Agents
摘要
大语言模型 (LLM) 代理通过将问题分解为角色专门的行为来提高任务性能。然而,它们的实际部署通常受到与每个用户请求的动态代理设计相关的计算成本和不稳定性的限制。为了解决这个问题,我们提出了 LLM Agents Factory,这是一个基于检索的框架,它使用超过 20K 的预定代理配置文件的基础按需构建特定于领域和基于维基百科的代理。我们的框架支持两种模式:(1)通过语义搜索进行代理配置文件检索,(2)将 蒸馏 转换为针对直接代理生成进行微调的紧凑模型。在单代理场景中对 MMLU、BIG-bench 和 BIG-bench Hard 进行的实验表明,我们基于检索的代理构建在准确性方面超越了非代理基线,同时以低得多的推理成本将 AutoGen 生成质量与 120B 主干相匹配。我们的工作表明,从结构化代理存储库中进行检索为动态代理生成提供了一种经济高效、准确且可控的替代方案,满足了工业应用的严格要求。我们在 https://huggingface.co/frontier-ai/LLM-agent-factory 中提供了实现代码和代理库。