模型

DSpine开放Qwen3.8-27B专用草稿权重,以五层结构并行预测16个Token

DSpine for Qwen3.8-27B

模型推理投机采样

概述

DSpine为目标语言模型生成候选Token块,再由目标模型验证,以减少逐Token等待。本次交付是面向Qwen3.8-27B的五层草稿检查点,块大小为16,滑动窗口为8192 Token,参数约20.26亿,使用BF16权重并按Apache 2.0发布。模型卡提供安装DSpine与SGLang服务命令,使用DSPINE投机算法、FA3注意力及ReplaySSM等配置。官方在SGLang 0.5.22、BF16、FA3、并发8等条件下报告多项Agent任务的吞吐与接受长度;这些是特定运行配置下的团队测量,不能直接等同于其他硬件或并发的收益。草稿器须配合对应主模型和运行时,不是独立聊天模型。