淘宝以多Agent、SOP和上下文管理建设AI搜索

为控制大模型的不确定性，团队把早期 react 式 plan-execute 范式改为预编排 SOP：意图 Agent 只负责路由到子 Agent，各子 Agent 执行人工配置或离线生成的固化 SOP，并在请求入口构建“安全筛查—一级意图识别—高价值任务细化”的多级意图路由漏斗。用 xLangchain（langchain 的 Java 实现）对模型调用做配置化封装并内置 AB 实验、版本管理与插件机制，Prompt/Tool/SOP 支持配置热更新。 围绕用户 profile、Agentic RAG、Memory 三类上下文构建统一的 Context Manager 动态整合与调优先级。配套建设电商知识库、标注平台、线上 AB（点击率/转化率/停留时长）与记录“用户输入→意图识别→上下文组装→Agent 决策→Tool 调用→模型生成→后处理”全链路的 Trace 工具。 并复用主搜团队的业务编排框架获得限流、熔断与链路追踪能力。