开源项目
raullenchai/twinspark:双DGX Spark部署DeepSeek-V4-Flash 284B MoE的开源部署实录
raullenchai/twinspark
概述
twinspark是特定模型加硬件组合的生产级部署快照(截至2026-08-11,版本固定):两台NVIDIA DGX Spark(GB10,各121 GiB统一内存)用一根400G QSFP DAC线互联(呈现为2×200GbE RoCE),部署DeepSeek-V4-Flash-0731。模型为284B MoE(激活13B),FP4专家加FP8注意力,1M上下文,权重167GB。引擎为vLLM 0.25.2(含DSpark投机解码),经Ray组成重启可验证的自愈双机集群(TP=2)。实测单流解码约75 tok/s,KV容量2.68M token;作者将本地端点接入OpenAI Codex CLI并在真实代码库落地功能。快速启动含RDMA前置与preflight.sh网络校验。