开源项目

sparkrun:DGX Spark推理负载管理工具

spark-arena/sparkrun

AI 基础设施模型部署

概述

sparkrun用于在单台或多台NVIDIA DGX Spark设备上启动、管理和停止LLM推理负载,不依赖Slurm或Kubernetes,一条命令即可完成安装并以向导方式建簇。工程采用Apache-2.0许可,本次发布提供推理任务的安装、启动、停止与状态查询命令,另附食谱(recipes)与文档。面向手握DGX Spark、想要轻量部署管理的团队与个人,可先单机验证再扩多机。