PlanCompiler:结构化多步 LLM 管道的确定性编译架构
PlanCompiler: A Deterministic Compilation Architecture for Structured Multi-Step LLM Pipelines
摘要
大语言模型 (LLM) 在多步骤结构化工作流程中仍然很脆弱,其中错误在顺序转换、验证阶段和有状态操作(例如 SQL 持久性)中复合。我们提出了 PlanCompiler,这是一种用于结构化 LLM 管道的编译架构,它通过类型化节点注册表、静态图验证和确定性编译将计划与执行分开。该系统不是在运行时依赖自回归链接,而是首先通过固定的基元注册表生成类型化的 JSON 计划,根据显式结构和类型约束验证该计划,并仅将经过验证的计划编译为可执行的 Python。我们在 300 个任务基准测试上评估该方法,涵盖不断增加的工作流深度、SQL 往返持久性和以模式为主题的压力测试。在此设置中,PlanCompiler 在 A 组和 B 组上实现了 100% 的首次通过成功率,在 C 组上实现了 88%,在 D 组上实现了 96%,在模式陷阱任务上实现了 88%,在 SQL 往返任务上实现了 84%,在六个基准组中的五个上优于 GPT-4.1 和 Claude Sonnet 的直接自由格式代码生成基线,总体成功率为 278/300,而总体成功率为 202/300两个基线分别为 187/300 和 187/300。在整个套件中,规划成本约为 0.356 美元,而 GPT-4.1 的规划成本为 2.140 美元,Claude 的规划成本为 18.391 美元,同时保持具有竞争力的端到端延迟。这些结果表明,对于注册表约束的结构化数据工作流程,确定性编译相对于自由格式代码生成可以提高首次通过可靠性和成本效率。残余故障集中在两个狭窄的类别中:聚合任务的后期输出契约错误和 SQLite 持久性边界的早期类型不匹配,阐明了该方法的优点和当前限制。