技术实践

AWS 与 Qumulo 验证跨区域训练的数据缓存方案

AI 基础设施分布式训练基础设施

概述

AWS 与 Qumulo 针对训练算力和数据位于不同区域的问题,测试按读取模式预取数据到训练侧本地缓存的方案。数据源与 hub 集群位于俄亥俄,spoke 训练集群位于俄勒冈,区域间网络延迟约60毫秒。 同一训练作业在两侧独立运行,每侧使用16张 H100。数据侧吞吐约116—117 samples/sec;远端训练在缓存预热后达到115—116,通常在首100—150个 batch 后对齐。预热后约94%—96%的读取命中本地缓存。 这是特定模型与数据的工程原型验证。更换作业后,需要重新测量预热时间、缓存命中和跨区传输成本。