开源项目llamastash/llamastash:本地多推理后端统一启动与路由工具llamastash/llamastashllamastash·来源日期:2026.05.19AI 基础设施模型服务框架收藏概述llamastash是一个本地推理管理工具,目标是把散落在本地的多种推理后端纳入统一管理:以单一入口负责启动与运行状态监管,并按请求做路由分发。对同时运行多个本地模型、需要在不同后端之间切换对比的开发者,这省去了手动管理进程与端口的负担。本次公开材料未披露其支持的后端清单与路由策略。