论文

从推理路由到代理编排:具有跨层验证的声明式策略编译

From Inference Routing to Agent Orchestration: Declarative Policy Compilation with Cross-Layer Verification

AI 基础设施模型网关

摘要

语义路由器 DSL 是一种非图灵完备的策略语言,部署在生产环境中,用于按请求 LLM 推理路由:内容信号(嵌入相似性、PII 检测、越狱评分)馈入加权投影和按优先级排序的决策树,用于选择模型、执行隐私策略并生成结构化审计跟踪 - 所有这些都来自单个声明性源文件。之前的工作为概率谓词建立了无冲突编译,并将 DSL 定位在工作负载-路由器-池推理架构中。本文将相同的语言从无状态、按请求路由扩展到多步骤代理工作流程——从推理网关到代理编排再到基础设施部署的完整路径。 DSL 编译器为编排框架(LangGraph、OpenClaw)、Kubernetes 工件(NetworkPolicy、Sandbox CRD、ConfigMap)、YANG/NETCONF 有效负载和协议边界门(MCP、A2A)发出经过验证的决策节点——所有这些都来自同一来源。由于该语言不是图灵完备的,因此编译器保证详尽的路由、无冲突分支、引用完整性以及在结构上耦合到决策逻辑的审计跟踪。由于信号定义是跨目标共享的,因此阈值更改会在一个编译步骤中从推理网关传播到代理网关,再到基础设施工件,从而消除跨团队协调作为策略漂移的主要来源。我们将该方法分为四个支柱——可审计性、成本效率、可验证性和可调整性——并确定每一层的验证边界。