开源项目

llama.cpp新增System-One决策服务接口及模型转换支持

b11361

AI 基础设施模型推理判别式推理与决策推理服务Jev

概述

llama.cpp b11361在llama-server加入/v1/systemone API,面向laya、julia-1、lev、openjev、kev等System-One形态的决策模型,提供转换脚本、共享提示前缀、文档与开发说明,加入视觉输入支持及openjev tiny测试模型;文档明确不支持date_facts。该接口把候选集合上的类型化决策以服务形式暴露,适合分类、评分或选择类应用,不是聊天补全的替代。公告未附性能或准确率数据;使用者需自备对应模型并核对接口参数与返回结构。 同日b11371加入clef纯文本转换及静态图支持,b11364加入nimble支持,作为同一决策模型接入链路合并于此。这里的“纯文本支持”是该次框架实现范围,不代表Clef模型本身没有视觉能力;视觉请求还需匹配支持的模型及服务构建。原始模型首发日期与推理工具支持日期分别记录。