论文
UnitBoost:使用合并运算符而不是模型管理复合 LLM 系统
UnitBoost: Managing Compound LLM Systems with a Merge Operator, Not a Model
摘要
复合大语言模型系统通常通过添加更高级别的大语言模型来解决协调问题。由此产生的元智能体读取工作人员的输出,写入最终答案,分配稍后的调用,并决定何时停止。它具有表现力,但它也将三个控制决策集中在一个不透明的、顺序敏感的模型调用中。我们询问经理是否需要富有创造力。 UnitBoost 使用定义的元级运算符替换该模型:任务给定的单元映射将工作器输出转换为槽值建议,受约束的 argmax 组装输出,而未填充或不受支持的槽成为下一轮的显式残差。该算子是无序的,记录了单元出处,并给出了一个简单的保证:在没有耦合约束的情况下,相同录取分数下的单元最大化主导了对任何完整候选者的选择。在三个坚持的基准上,它比金标签选择的最佳单一候选者高出 0.060-0.195 绝对任务得分点,比输入匹配的生成管理者高出 0.048-0.076。仅替换管理步骤将六种复合系统配置改进了 0.013-0.182。残差定向回合将 FanOutQA 单元格 F1 从 0.4778 提高到 0.5524;匹配的对照显示,真正的残差优于随机目标和普通重读,而无标签供应信号则标志着一轮无效的精疲力竭。相同的分析测量了无法获得此类增益的三种情况(一个不可分割的单元、不可用的单元标识以及对每个发射单元收费的端点),并将跨单元耦合量化为修复成本。管理者放弃语义自由并获得顺序不变性、单元来源和可测试的故障条件。