开源项目

MTPLX:无需外部草稿模型的原生投机解码实现

youssofal/MTPLX

模型推理投机采样

概述

youssofal在GitHub发布MTPLX,核心工程创新是原生投机解码(native speculative decoding)。传统投机解码需要额外维护一个草稿模型负责起草、目标模型负责验证,MTPLX不依赖外部草稿模型,在单一模型内完成起草与验证,降低部署复杂度与显存占用。仓库于2026年5月初创建,适配的模型列表与加速数据以仓库说明为准。