模型

Baseten发布joey-1:2B模型一次前向输出校准决策概率

Decisions for a penny: introducing joey-1, our fastest decision model

模型优化模型推理判别式推理与决策小模型/轻量模型

概述

Baseten旗下Base Labs为既有9B elephant-1、27B mammoth-1决策模型家族加入2B joey-1。它接收文本及可选图像状态和一组类型化问题,在一次共享前缀预填充中返回选项概率、是/否或有序评分,无需应用解析长篇生成文本。 模型以Qwen3.5-2B为基础,对语言部分完整微调,冻结视觉编码器;训练使用621万决策样本、交叉熵与Brier校准项,并提供“我不知道”选项。模型卡给出16,384 token训练长度,超过训练长度的自托管请求被拒绝而非静默截断。官方博客所述专属部署更长配置不能当作本卡训练长度。 本次在Baseten Model APIs以/v1/systemone和decision-models/baseten-joey-2b-latest提供,每百万输入token 0.01美元,默认零数据保留,并开放MIT权重及自托管示例。官方称平均2,000 token请求的生产P50端到端延迟20毫秒,属其部署条件;不能据此保证所有硬件或负载延迟。