论文
超越层标签:多调用 LLM 工作流程中与角色和部署相关的模型替换
Beyond Tier Labels: Role- and Deployment-Dependent Model Substitution in Multi-Call LLM Workflows
摘要
大型多调用 LLM 系统提出了查询级路由无法捕获的科学问题:模型的价值取决于它进入依赖计算的位置以及围绕该调用的部署。现有的路由器通常决定 \emph{where} 使用更强的模型,同时将替换本身的好处视为已知。我们通过谓词-动作分解将这两个决策分开,并在涵盖 8-64 个求解调用和四个三层模型梯的受控求解-合并-验证工作流程中对其进行评估。由此产生的证据揭示了明显相互冲突的结果背后的一致原则。在数字频率计数方面,在混合 Qwen/GPT 阶梯中,全强将 RMSE 从 4.818 降低到 1.538,而仅 Qwen 的平均排序则相反。投入匹配的干预措施进一步表明,相同的中强行动在不同角色和规模之间具有截然不同的价值。语义任务和合同的转变再次逆转了混合排序,而分配消融将有用的稀疏放置与覆盖不足和不加区别的升级区分开来。总之,这些结果将模型替换建立为部署条件操作,而不是层标签隐含的属性,并且它们为大规模工作流路由提供了实用的序列:校准操作,解决其角色条件效果,然后优化其放置。