从单体混合到Agent编排：大规模对话助手的动态响应

会话助理可以将检索、操作选择、升级和措辞混合在单个模型路径中，或者将这些角色分开。我们报告了大型住宿市场的客户支持助理的生产迁移（每月数百万次对话，11 种语言，10 秒的 P90）。动态响应 (DR) 将单个 Qwen3-235B-A22B 混合响应器替换为基于类型化工具的有界 ReAct 协调器以及从后端验证的上下文合约写入的较小生成器。由于迁移还改变了提示、对齐和服务，因此我们将每个效果归因于其原因和声明，因为架构仅影响在相同重播回合中测量的效果：类型化实体选择将保留选择器移动到精度优先的操作点（精度为 8.3% 到 89.1%，召回率 75.2% 到 67.3%），并且带有成员资格检查的类型化操作 ID 消除了观察到的结构化操作幻觉（2.14% 到 0.0%）。低斜坡 A/B 测试再现了重放升级减少情况：硬升级响应从 5.60% 下降到 3.08%，软升级响应从 9.56% 下降到 2.49%，而生产切换量大致保持稳定；自解决是有方向性的（+5.1 点，95% CI [-2, +12]）。服务优化将 Orchestrator P90 延迟从 3.87 秒减少到 2.24 秒，GPU 占用空间减少了大约三分之一，而自托管将估计的年度模型服务成本降低了一个数量级以上。