开源项目

HJCheng0602 创建 nanoPD 分布式推理引擎

HJCheng0602/nanoPD

模型推理分布式推理

概述

开发者 HJCheng0602 nanoPD 仓库,是一个独立实现的分布式推理引擎。项目具备完整的运行流程与基准测试流程,可按说明启动并复现性能数据。作为独立引擎,它不依托既有推理框架改造。支持模型范围与具体性能水平未知。