AWS 为 MoE 强化学习分离生成与训练负载并优化通信

AWS 在 MoE 模型强化学习管线中，将生成交互轨迹的 rollout 和策略训练分开运行：前者偏重推理吞吐，后者需要同步计算，两者速率失配会造成闲置。 方案使用 EKS 编排负载，将 DeepEP 的专家通信接入 EFA，并把数据集和 checkpoint 存放到 S3。AWS 报告，在相同48台 P5en 实例的内部测试中，采用 DeepEP over EFA 的软件栈吞吐提升约40%。 这一结果来自内部工程验证。实际部署还需按通信模式决定哪些流量留在 NVLink 域、哪些跨节点传输，并用真实训练负载复测。