Insight Agents：基于LLM的数据洞察多智能体系统

如今，电商卖家面临若干关键挑战，包括难以发现并有效利用可用的计划和工具，以及难以理解并利用来自各种工具的丰富数据。因此，我们旨在开发Insight Agents（IA），一个对话式多智能体数据洞察系统，通过自动化信息检索为电商卖家提供个性化的数据和业务洞察。我们的假设是，IA将成为卖家的力量倍增器，通过降低卖家做出良好业务决策所需的努力并提高速度，从而推动卖家的增量采用。本文介绍这一基于LLM的新型端到端Agentic系统，它建立在计划-执行范式之上，设计目标是全面覆盖、高准确率和低延迟。其特点是分层多智能体结构，由管理智能体和两个工作智能体（数据展示与洞察生成）组成，用于高效的信息检索和问题解决。我们为管理智能体设计了一个简单而有效的机器学习方案，结合使用轻量编码器-解码器模型进行域外（OOD）检测和通过BERT分类器进行智能体路由，同时优化准确率和延迟。在两个工作智能体中，为基于API的数据模型设计了战略规划，将查询分解为细粒度组件以生成更准确的回答，并动态注入领域知识以增强洞察生成器。IA已面向美国Amazon卖家上线，人工评估准确率达90%，P90延迟低于15秒。