论文

AutoSearch:基于强化学习的智能体RAG高效自适应搜索深度

AutoSearch: Adaptive Search Depth for Efficient Agentic RAG via Reinforcement Learning

模型训练强化学习Agentic RL

摘要

智能体检索增强生成(RAG)系统使大语言模型(LLM)能够通过与外部检索工具的多步交互来解决复杂任务。然而这种多步交互常包含冗余的搜索步骤,带来可观的计算成本与延迟。先前工作通过限制搜索深度(即搜索步数)来降低成本,但这常导致对复杂问题探索不足。为解决这一问题,我们首先研究搜索深度如何影响准确率,并发现一个由问题复杂度与智能体能力共同决定的最小充分搜索深度,它界定了准确率-效率权衡。此外,我们提出AutoSearch,一个通过自生成中间答案评估每个搜索步骤的强化学习(RL)框架。借助自回答机制,AutoSearch识别最小充分搜索深度,通过对达成该深度的奖励与对过度搜索的惩罚来促进高效搜索。此外,还引入奖励机制以稳定搜索行为并提升复杂问题上的答案质量。在多个基准上的大量实验表明,AutoSearch实现了更优的准确率-效率权衡,在缓解过度搜索的同时保持搜索质量。

AutoSearch:基于强化学习的智能体RAG高效自适应搜索深度:论文配图
图1:准确率-效率权衡:AutoSearch以最高搜索效率取得领先的EM成绩,展示自适应搜索深度的优势。