开源项目
Berth把本地模型唤醒、GPU租约与工作中更新阻断连成资源流程
Berth v0.2.0
概述
Berth是本地GPU租约管理器,用于让LLM、图像和语音引擎轮流使用同一设备。v0.2.0把OpenAI兼容网关接入冷启动、租约获取、请求排空和流式转发,并可对不由Berth启动的GPU应用登记持有与占用声明。ComfyUI在作业边界释放资源,实际检查显存释放后才把租约交给下一服务;同优先级抖动保护和竞争等待避免重复抢占。 模型与运行材料流程同步补齐:Hugging Face下载解析到具体提交,CivitAI下载解析到具体模型版本,按来源发布的哈希校验,并处理GGUF分片与projector、断点续传、空间余量和离线校验;ComfyUI核心及节点包按git提交固定,作业运行或目录有未提交改动时拒绝更新,并保留回滚路径。这里的价值是模型唤醒、工作边界和可信材料共同形成可运行的本地资源流程,不单独计数下载按钮或网页UI。 Apache-2.0的v0.2.0于北京时间10月20日11:44发布,Release页面精确发布时间已核。网关标为预览,当前每个daemon管理单张GPU租约;支持Linux与NVIDIA,Windows与NVIDIA的进程组、Job Object和排空支持标为实验,其他GPU未支持;它不保证所有非托管进程都能强制释放显存,也不是容器安全隔离。需要按项目配置服务、资源和本机访问设置。