开源项目

Rizzo Flow:Jev 式决策的 llama.cpp 本地推理实现

Rizzo Flow:Jev式决策模型的开源llama.cpp本地推理实现

模型推理推理验证与自校正判别式推理与决策Jev

概述

Rizzo Flow 基于 llama.cpp 在本地执行 Jev 式结构化决策。 Rizzo Flow 基于 llama.cpp 和 MLX 在本地实现 Jev 式固定选项决策,支持共享前缀 KV 缓存、微批处理和 /v1/systemone HTTP 服务。工程包含 CUDA、Vulkan、Metal 后端检测与提示词试验工具。 本周项目将默认运行路径由 MLX 转向 llama.cpp,并更新本地 LoRA 模型;采用 Apache-2.0 许可。