开源项目

TypeLLM:用类型约束语言模型生成

TypeLLM/TypeLLM

模型推理解码与生成控制

概述

TypeLLM 将语言模型生成接入类型约束,面向需要把输出直接交给软件处理的应用。 调用方先描述所需的数据或判断类型,再获取满足该接口的结果,减少自由文本与下游程序之间的解析步骤。类型满足与内容判断正确仍是不同检查项,业务验收需要分别考虑。