预测开放域问答中检索增强的好处

虽然检索增强生成已成为增强问答系统的常见方法，但检索并不具有普遍优势。我们研究预测合并外部检索信息是否可能提高给定问题的响应质量的问题。为此，我们评估了一系列基于检索信号、答案特征以及生成的响应和检索到的段落之间的语义一致性的预测方法。我们进一步设计了一个预测器来探测 LLM 的内部状态。其预测性能显着缩小了计算要求较高的后生成方法与预生成（检索后）方法之间的性能差距。我们使用预测方法来设计一个选择性检索框架，该框架可以在每个问题的检索和非检索生成模式之间动态选择。实验结果表明，有选择地应用检索增强所产生的答案质量优于对所有查询使用检索的答案质量。