开源项目ssd:投机解码推理引擎开源tanishqkumar/ssdtanishqkumar·来源日期:2026.03.03模型推理投机采样收藏概述ssd 是论文 Speculative Speculative Decoding 的官方实现,面向大模型推理优化研究者。项目本次公开发布:它提出异步并行的投机解码机制,并将该方法实现为独立的推理引擎,仓库提供安装步骤以及 SSD 与基线方法的复现命令,便于研究者对照验证加速效果;代码以 MIT 许可开源。对关注解码阶段吞吐与延迟的研究和工程团队,它提供了可直接运行的新方法参考实现。