开源项目
llama.cpp b11070:Hexagon 后端 DMA 路径重构
ggml-org/llama.cpp b11070
概述
llama.cpp 是以 C/C++ 为核心的开源大模型推理项目,支持在本地 CPU 和多种加速器上运行模型。 llama.cpp b11070 重构 Hexagon 后端的缓冲区与 DMA 处理,支持扩展缓冲区映射和64位 DMA,并调整相关二元运算和缓冲区路径。 这类改动关系到后端内存寻址和数据传输的正确性。发布说明未给出覆盖全部设备的性能数字,使用 Hexagon 后端的团队可重点检查较大缓冲区与现有部署的兼容性。