论文

SearchSkill:教LLM用演化技能库使用搜索工具

SearchSkill: Teaching LLMs to Use Search Tools with Evolving Skill Banks

智能体系统Agent 工具调用Agent Skills

摘要

教语言模型使用搜索工具不仅是它们是否进行搜索的问题,而且还涉及它们是否发出良好的查询。这在开放域问答中尤其重要,其中广泛或复制的查询经常浪费检索预算并破坏后续推理。我们提出了“我们的”框架,它通过可重用的搜索技能使查询规划变得明确。在每个步骤中,模型首先选择一项技能,然后根据所选技能卡生成搜索或回答操作。技能库存本身并不固定:SearchSkill 维护一个不断发展的技能库,根据反复出现的故障模式对其进行扩展或细化,并在监督训练之前重建受影响的轨迹。由此产生的两阶段 SFT 方案将训练与技能选择的推理时间协议以及基于技能的执行相结合。在开源和闭源模型中,SearchSkill 改进了知识密集型 QA 基准的精确匹配,并产生更好的检索行为,包括更少的复制第一查询、更多以原子跳跃为中心的查询以及在较小搜索预算内提供更多正确答案。这些结果表明,显式的技能条件查询规划是将搜索视为无差别操作的轻量级替代方案。

SearchSkill:教LLM用演化技能库使用搜索工具:论文配图
图1:SearchSkill总览:演化可复用SkillBank、构建技能引导轨迹并对齐训练。