论文

使用非常规求解器进行检索增强问答的 QUBO 优化证据选择

QUBO-Optimized Evidence Selection for Retrieval-Augmented Question Answering with Unconventional Solvers

上下文与知识检索增强

摘要

检索增强问答取决于选择共同支持答案生成的证据段落。然而,许多 RAG 管道依赖于 top-\(k\) 排名,其中主要根据个体相关性分数来选择段落,尽管多跳问题通常需要满足多个信息要求的补充证据。最近基于 LLM 的选择器通过将检索视为集合选择来解决这个问题,但在这个中间阶段使用 LLM 可能成本高昂且难以扩展。在这项工作中,我们将证据选择表述为二次无约束二元优化(QUBO)问题。给定一个问题、候选段落和分解的信息需求,我们的方法构建一个平衡相关性、需求覆盖范围、支持强度、冗余、互补性和紧凑性的能量函数。低能耗解决方案对应于紧凑的证据子集,涵盖所需的要求,同时避免不必要或重复的上下文。然后将选定的段落传递到下游语言模型以生成答案,将组合证据选择与语义答案生成分开。我们在 HotpotQA 上评估所提出的 QUBO 选择器,并将其与基于 LLM 的集合选择器和非 LLM 基线进行比较,包括 BM25、相关性 top-\(k\)、最大边际相关性、混合词汇语义排名、贪婪覆盖和随机选择。相对于基于 LLM 的选择器,QUBO 选择器实现了有竞争力的精确匹配和 token-F1 性能,同时为结构化证据选择提供了与求解器兼容的公式。这些结果表明,多跳证据选择可以转化为离散优化,开辟一条通向 RAG 管道的路径,其中 LLM 保留用于语义处理和答案生成,而上下文选择由 Ising/QUBO 兼容的求解器处理。