开源项目
Ollama 0.35.0:新增有限选项决策接口
v0.35.0
概述
Ollama提供本地模型运行与服务接口。0.35.0新增/v1/systemone端点,支持TypeSafeJev决策模型,包括Bespoke的Nimble和Together的Tev1。与开放文本生成不同,调用者提供问题与候选选择,模型返回各选项的概率分数,可用于分类、请求路由及其他有限答案任务。发布说明列出choice、noul和score问题类型,并给出通过ollama pull nimble取得模型的方式。接口支持本地运行,不必为了这一用法调用外部推理API。部署时仍需按该版本接口核对请求格式,并验证候选项覆盖和概率分数的实际含义。