Agora：通过拍卖式任务分配增强Agent推理

摘要

增强大语言模型（LLM）智能体的推理能力需要有效编排多样的专家模型与工具。但既有框架通常基于任务与专家模型或工具功能间的粗粒度匹配调用API，忽略功能相似备选间的性能波动与成本效率等关键因素。为此我们提出Agora：一个使用置信度校准拍卖把任务动态分配给专家模型与工具的框架。Agora把推理步骤当作可交易物品，以校准后的胜任度而非原始置信度为分配依据。在五个主基准上：在匹配候选池下，Agora相对单模型、路由与级联基线持续改进或保持竞争力。

Agora：经拍卖式任务分配增强LLM智能体推理：论文配图 — 图 1：Agora 拍卖推理框架概述。给定一个复杂的查询 xx，规划器将其分解为依赖关系图，这些依赖关系图被分组为任务单元。每个单元都通过置信度校准拍卖动态分配给得分最高的代理，该拍卖平衡了校准能力与执行成本。最后，将单元输出综合为最终答案YY。