模型

Liquid AI 开放 LFM2.5-VL-DSpark 投机解码草稿模型

Liquid AI 开放 LFM2.5-VL-DSpark 视觉语言草稿模型

模型推理投机采样

概述

投机解码先用较小的草稿模型生成候选,再由目标模型验证,以减少逐 Token 解码开销。 Liquid AI 开放约2.8亿参数的实验性DSpark草稿模型,用于加速LFM2.5-VL-3B的投机解码。 提供Safetensors与GGUF权重,支持llama.cpp、SGLang与MLX-VLM,官方公布GPU与端侧最高解码加速分别为2.66倍和3.13倍。 DSpark 是为目标视觉语言模型提供候选 Token 的草稿模型,需与 LFM2.5-VL-3B 的目标模型结合使用;该发布仍标记为实验性。