论文

Verbal-R3:Verbal Reranker 作为检索和推理之间缺失的桥梁

Verbal-R3: Verbal Reranker as the Missing Bridge between Retrieval and Reasoning

上下文与知识检索增强

摘要

将原始检索文本注入 大语言模型 (LLM) 上下文的传统检索增强生成 (RAG) 范例通常会导致检索信息的集成不理想。本文建议通过语言注释(明确阐明搜索查询和检索上下文之间的逻辑联系的分析叙述)来连接检索结果和 LLM 的推理能力。我们的实证调查揭示了语言注释的潜力,可以大大增强 LLM 生成准确、基于上下文的响应的能力。受这一发现的启发,我们引入了 Verbal-R3,这是一种新颖的代理 RAG 框架,由生成器和 Verbal Reranker 组成。生成器执行迭代检索和推理,而语言重排序器返回相关性分数和语言注释来指导生成器的推理和回答过程。 Verbal-R3 的推理过程通过相关性引导的测试时间缩放得到进一步细化,它有效地分配测试时间计算以实现有效的轨迹扩展。 Verbal-R3 在复杂的问答基准上实现了最先进的性能,验证了所提出框架的有效性。