开源项目

Microsoft开源sutradhara:代理推理跨层加速研究系统

microsoft/sutradhara

模型推理推理加速

概述

microsoft发布sutradhara仓库(2026-06-24,仓库创建日口径):提供可安装运行的代理推理跨层加速研究系统及复现实验,实现工具感知预填充、流式工具执行和编排感知KV缓存管理。详细信息以官方发布为准。