开源项目

llmfit:本地硬件与开源模型适配CLI

AlexsJones/llmfit

AI 基础设施模型部署

概述

llmfit是一个开源命令行工具,用于检测本机CPU、内存、GPU显存与加速卡配置,推荐能够流畅运行的开源大语言模型及各量化版本,解决本地部署前不知道选哪个模型的问题。工程采用MIT许可,本次发布提供安装与运行说明,并含基准测试与结果分享功能,可用实机数据改进推荐,适合在自有设备上部署模型的开发者快速筛选目标模型。