开源项目

MinivLLM:自实现分页注意力的轻量推理引擎

MinivLLM历史工程快照

AI 基础设施模型服务框架

概述

MinivLLM 是 Wenyueh 于 2025 年 12 月末创建并公开的轻量推理引擎与基准项目,维护者为 Wenyueh,代码按 Apache-2.0 许可发布。核心模块 src/myvllm/engine/llm_engine.py 实现 KV 块管理、请求调度和自实现的分页注意力,可用于研究推理引擎核心机制或做基准对比。支持范围与运行条件以其仓库 README 为准。