localllm 开放按硬件和语言评测选择本地模型的部署工具

MIT工具提供localllm、doctor、list、serve与eval入口，部署后暴露本地OpenAI兼容API。选型依赖项目已测目录与硬件估计；README区分实测吞吐和由带宽推算的速度。语言评测读取首词元各答案的对数概率，覆盖Global-MMLU-Lite、INCLUDE等多选题，不评价写作。首次安装和权重下载需要网络，模型及数据保留各自许可。AMD Vulkan配置和MTP收益来自指定硬件实验，不能推及所有设备。