开源项目
llama.cpp贯通GGUF发现、匹配草稿下载与断点恢复
llama.cpp b11714: Discover & Download Models from HF Hub
概述
llama.cpp为本地大模型提供C/C++推理与llama-server。b11714加入可选Discover Models流程,用户可在模型管理器中浏览和搜索Hugging Face GGUF,查看量化选项、内存适配提示及README,再启动下载。下载主模型时,会选择仓库中匹配量化格式的草稿文件,优先DFlash,其次MTP;主模型与草稿以一组显示,统一控制暂停、恢复和取消。 服务端保留部分下载文件并记录未完成任务,因此服务重启后仍能识别与续传;删除主模型时只联动其量化匹配的附属文件。该入口默认关闭,需启用Enable Discover Models,并与HF Hub设置联动;当前界面不能运行的决策模型会被过滤。 项目以MIT许可开放。此次按北京时间18日首次包含该功能的构建交付记录;PR在17日23:20合入是实现节点,不另计事件。同日其他底层内核构建保留为背景。