Slotstream：Mac 上 SSD 流式运行 125B MoE 的本地推理引擎

Slotstream 为 Mac 提供 MoE 模型本地推理，通过 SSD 流式读取模型专家权重。 Slotstream 通过 SSD 流式读取专家权重，在16—64 GB内存的 Mac 上运行 Qwen3.8-Flash-Next（125B MoE，约105 GB）。工程使用 Swift、MLX 与 Metal，包含专家预读、内存规划、缓存管理和投机解码。 项目提供本地运行与服务接口，兼容 Ollama、OpenAI、Anthropic。125B 是总参数量，能装载模型与实际运行速度需要分别评估。