复合 AI 系统中聚合的能力与局限

在设计复合 AI 系统时，一种常见做法是查询同一模型的多个副本并聚合响应以产生综合输出。鉴于这些模型的同质性，这引出一个问题：聚合是否真的能让系统获得比查询单个模型更多的输出集合。在这项工作中，我们在一个风格化的委托-代理框架内研究聚合的能力与局限。该框架刻画了系统设计者如何通过奖励函数规范部分引导每个智能体的输出，但仍受限于提示工程能力与模型能力。我们的分析揭示了三种自然机制——可行性扩展、支撑扩展与绑定集收缩——聚合正是通过它们扩展设计者可诱导输出的集合。我们证明，任何聚合操作若要具备可诱导性扩展能力，必须实现这三种机制之一，而这些机制的强化版本提供了充分必要条件，完整刻画了可诱导性扩展。最后，我们在一个玩具参考文献生成任务中对部署的 LLM 实证展示了我们的发现。总之，我们的结果朝着刻画复合 AI 系统何时能克服模型能力与提示工程局限迈出一步。