开源项目
agentperf-local 0.3.3新增DGX Spark与M5 Pro多词元预测测速配方
agentperf-local v0.3.3
概述
Artificial Analysis发布agentperf-local v0.3.3,为本地Agent测速新增两套硬件部署配方:DGX Spark上的Qwen3.5 9B NVFP4 MTP,以及M5 Pro上的Qwen3.6 35B-A3B MTP,并把Qwen3.8 27B设为默认模型。工程通过回放记录的Agent会话,向兼容模型服务器提交随轮次增长的完整上下文,报告吞吐与延迟;可连接已有服务器,也可按固定配方下载模型并启动服务。它不评估输出质量,不能据速度结果推导任务完成率。完整回放、缩小上下文和不同输出词元策略须分别报告,服务器是否支持ignore_eos会影响可比性。代码采用Apache 2.0。此处纳入新硬件配方的明确版本更新,不把此前已公开的整个项目改写为10月1日首次开源。