论文
大处着想,小处搜索:在分层搜索代理中,容量在哪里很重要?
Think Big, Search Small: Where Capacity Matters in Hierarchical Search Agents?
摘要
基于 大语言模型 的搜索代理越来越多地采用多代理架构,其中主代理将复杂的问题分解为子查询并将它们分派给并行的子代理。然而,现有系统从相同规模的单个模型实例化所有角色,从而使模型容量如何在角色之间分配仍然悬而未决。我们将分层搜索分解为三个角色:负责任务分解的委托角色,负责检索和证据提取的执行角色,以及作为混杂控制固定的答案生成角色。然后,我们在五个多跳 QA 基准上沿着授权和执行轴进行受控容量扫描。实验产生了三项发现。首先,角色分解始终优于单代理基线,将六个模型尺度的精确匹配度从 4.5 点提高到 8.6 点。其次,容量敏感性是不对称的:扩展委托主干将 EM 提高了约 11 个点,而扩展执行子代理仅将 EM 提高了约 2.6 个点,将分解确定为能力瓶颈。第三,通过质量过滤轨迹 蒸馏 训练的 1.7B 参数执行器在准确度上与前沿子代理匹配,同时消耗的子代理词元减少了 37%,从而推进了 Pareto 前沿。这些结果提出了构建分层搜索代理的具体方法:在不牺牲准确性的情况下集中授权和缩小执行规模。我们的代码位于 https://github.com/QinnanCai0115/role-factorized-search。