论文
SerenAI:受基于文本的世界人工智能模型启发的状态转换系统
SerenAI: State-transition system inspired by text-based world AI models
摘要
尽管专业工作流程广泛利用大型语言模型,但如果不受约束的自由文本生成需要法律、运营或财务工作流程,则对审核不受约束的自由文本生成的解释通常很棘手。我们在此演示了一个名为 SerenAI 的基于文本的系统 - 受到世界模型的启发,它是一个状态转换系统,输出可验证的预测而不仅仅是文本:提供了环境、状态和操作的描述,生成的输出包含 4 个项目:因果影响给定状态的因果增量、可以从给定状态和操作逻辑上得出的下一个状态、有效性奖励和终止信号。对于发布的原型模型,我们采用了 2 个适应训练步骤,即参数高效微调,然后是基于验证器的 RL,在跨越 10 个推理领域的 12 个环境中超过 50,000 个示例因果关系。与 8B 开放权重基线的初始内部评估相比,SerenAI 将 JSON 有效性从 85.0% 提高到 93.2%,模式有效性从 55.0% 提高到 84.0%,精确结构化输出匹配从 0.0% 提高到 41.5%,因果增量精确匹配从 0.0% 提高到 41.5%,结果状态精确匹配从 0.0% 提高到 42.0%,奖励精确匹配从 1.0% 到 80.5%,终止完全匹配从 38.0% 到 81.5%。这些支持更狭隘的主张,即验证者兼容的适应可以改善结构化转换预测。他们尚未建立法律级的可靠性。因此,本文还指定了基于证据的法律工作流程、校准、人工监督和主权本地部署的验证协议。
