开源项目

ollama/ollama:多硬件多模型执行机制改版

ollama/ollama

AI 基础设施推理服务

概述

ollama发布正式版,本次改动覆盖多硬件与多模型的执行机制,超出单一平台适配的范畴;项目采用MIT许可。作为本地大模型部署最常用的运行时之一,执行机制层面的变化可能改变已有模型在各后端间的行为与性能基线,生产环境建议升级前对自有模型与硬件组合做回归验证。