CDS4RAG：RAG 的循环双序列超参数优化

检索增强生成 (RAG) 对 检索器 和生成器的大量超参数很敏感，但由于复杂的交互和昂贵的评估成本，使用给定查询对其进行优化是一项具有挑战性的任务。现有算法效率低且收敛速度慢，因为它们通常将 RAG 视为整体黑盒或仅优化部分超参数。在本文中，我们提出了 CDS4RAG，这是一个框架，可通过新的循环双序列公式使用给定查询来优化完整的 RAG 超参数。 CDS4RAG 的特殊之处在于它区分了 检索器 和生成器的超参数，依次循环优化它们。这种范例使我们能够设计细粒度的周期内预算规定，并在优化生成器时通过跨周期播种加速优化。 CDS4RAG 也是一个与算法无关的框架，可以与各种通用算法搭配使用。通过对四个常见基准测试和两个主干 LLM 进行的实验，我们发现 CDS4RAG 在 21/24 情况下显着增强了普通算法，同时在所有情况下都显着优于最先进的算法，生成质量提高了 1.54 倍，加速比提高了 1.54 倍。