开源项目

ollama/ollama:成熟工程Release聚合

ollama/ollama

模型推理KV Cache

概述

缓存与上下文移位关系发生机制变化,超出普通修复;模型适配及RC不计。(2026-06-13,成熟工程Release聚合口径) 正式版0.30.8将提示缓存与上下文移位解耦以改善KV复用;MIT许可及运行说明齐备。 详细信息以官方发布为准。