开源项目
SGLang-FluentLLM:开放LongCat推理功能与算子
meituan-longcat/SGLang-FluentLLM
概述
SGLang-FluentLLM 是LongCat系列的配套推理引擎实现,面向需要部署相应模型的工程开发者。 此轮在开放LongCat-Flash-Lite权重的同时,公开推理引擎部分功能和算子,以满足模型与系统协同设计产生的运行需求。 材料未提供完整独立版本号与统一性能对照。公开部分实现不能写成整个内部推理系统均已开源,部署范围应以仓库的支持说明核对。