论文

Agentic AutoRAG:按失败归因优化 RAG 配置

Agentic AutoRAG: RAG Pipeline Optimization through Reasoning-Driven Agents

上下文与知识检索增强

摘要

检索增强生成 (RAG) 是一种广泛使用的方法,用于将大语言模型 (LLM) 扎根于外部知识。然而,在许多交互选择中,从分块和嵌入模型到重新排序和生成,配置管道是一个昂贵的超参数优化问题。现有的优化器,从贪婪搜索到贝叶斯优化,将每次试验减少到一个聚合分数和搜索,而不对配置执行的原因进行建模,即使检索到的块已经提供了有关每次失败是否发生在检索期间或之后的证据。我们引入了 Agentic AutoRAG,这是一种 LLM-智能体优化器,用于具有检索与生成故障归因的多目标 RAG 超参数优化。它提出了在语料库的冻结考试中评分的配置:每次试验后,诊断器将每个失败的问题归因于检索或生成,而基于模型排名和定价知识库的提议者选择下一个配置,权衡准确性与成本,以追踪帕累托前沿。在三个多跳 QA 基准测试中,它比我们比较的每个基线都达到了更高的 LLM 判断准确性,并且在前 10 次试验中,它匹配或超过了统计基线的完整 30 次试验判断准确性。在现实世界医疗保健语料库的成本感知模式下,它的中位检查准确率达到 77%,高于最强基线的 71.5%,每次查询成本约为该基线的 58%,并且它以大约 22% 的成本达到该基线的 71.5%。