开源项目llama.cpp b11345:为Hexagon增加Q2_K与Q3_K量化支持b11345ggml-org·来源日期:2026.10.01AI 基础设施推理服务收藏概述llama.cpp提供本地大语言模型推理及多硬件后端。b11345为Hexagon增加Q2_K和Q3_K量化支持,补齐相关内存分配处理;同日b11338将CPY、CONCAT共享步进DMA复制,并加入任意维度拼接及必要的队列刷新和条件保护。更新适用于使用Hexagon后端的部署,可采用对应版本或后续包含这些改动的构建;不能据此推断所有模型、量化格式和设备都已兼容。