论文
剖析 Agentic RAG:使用局部 7B 模型进行多跳 QA 的组件消除
Dissecting Agentic RAG: A Component Ablation for Multi-Hop QA with a Local 7B Model
摘要
代理检索增强生成(RAG)系统结合了迭代推理循环、查询分解和自适应检索来解决多跳问答。然而,每个组件的贡献仍然知之甚少,特别是在仅使用本地语言模型的资源有限的环境下。许多代理设计添加了自适应检索路由和更深的检索循环,假设增加的复杂性有帮助。为了测试它是否有效,我们使用本地 7B 参数模型 (Qwen2.5-7B-Instruct) 对完整的代理 RAG 管道进行了受控消融研究,该研究针对来自 HotpotQA 干扰器开发集的 5,000 个问题进行了评估。与 EM=43.1% 和 F1=54.0% 的单通道密集检索基线相比,我们的完整流程实现了 EM=53.2% 和 F1=61.6%。在八个消融条件下,我们发现:(1)通过倒数排序融合的固定混合检索始终优于基于规则的自适应路由(+1.8 EM,+1.9 F1),因为路由启发式通过触发几乎所有多跳子问题中存在的命名实体来过度路由到 BM25; (2) 对分解子问题的两次检索迭代捕获了五次检索迭代的 95%,更深的循环没有带来任何有意义的好处; (3) 查询分解和跨编码器重新排名各自贡献统计显着但较小的增益(分别为 p<0.01 和 p<0.001)。总而言之,在固定的本地模型预算下,更简单和固定的选择与自适应版本相比具有竞争力或更好:大部分收益来自运行短检索循环,而不是来自自适应路由或多次迭代。我们不使用专有的 API 或大规模计算。