开源项目llama-throughput-lab:吞吐测试工具alexziskind1/llama-throughput-labalexziskind1·来源日期:2026.01.15模型评测评测方法与指标收藏概述llama-throughput-lab 是一个 llama.cpp 推理吞吐测量工具,以对话框启动器方式运行测试,面向需要比较模型服务性能的开发者。工程于1月16日创建,提供吞吐测试、并发负载与参数扫描能力,附 Python 运行说明,以 MIT 许可发布,记录确认当期日期合格。