技术实践

微信WFS团队在传统TCP网络下跑满200Gb网卡并加速模型加载

AI 基础设施数据基础设施

概述

微信WFS团队跟进学习DeepSeek开源的3FS后,因内部庞大存量集群不支持RDMA,转向传统TCP网络吞吐优化,启动WFS Ultra项目。关键做法有三:Run-To-Completion线程模型,把libfuse读接口异步化并引入ultra-core异步回调,配合绑核策略降低Cache Miss;全链路零拷贝,经可插拔架构对比后选定客户端splice、服务端sendfile的组合,全链路减少8次CPU拷贝,服务端跑满200Gb带宽仅占3个核心,但sendfile不支持实时CRC校验,改用定期巡检降低静默损坏风险;负载自适应预读,用内存池避免分配抖动、细粒度流式预读,并在高并发时限速、负载大时自动停止预读。披露结果(官方称):同等200Gb网络下Fio吞吐超过RDMA加持的3FS,优化已在内部运行半年;异步化随机读内部实测较常规实现差距可达10倍以上;AI场景用预热Overlap把模型数据提前读入内存,使参数加载与框架初始化并行,不同规模模型加载耗时均有下降但幅度未披露。边界:对比为团队自测口径,整体属内部实验性工程实践,RDMA在KVCache等延迟敏感场景仍有上限优势。