论文

FCPRAG:用于稳定多通道 LoRA 注入的融合控制器参数检索增强生成

FCPRAG: Fusion-Controller Parametric Retrieval-Augmented Generation for Stable Multi-Passage LoRA Injection

上下文与知识检索增强

摘要

参数检索增强生成 (PRAG) 通过特定于段落的 LoRA 适配器将检索到的证据注入 大语言模型 (LLM),从而减少对长上下文提示的依赖。然而,当针对同一查询检索多个段落时,证据级融合成为瓶颈:等权重合并可以放大薄弱或冲突的证据,并且将检索信号转换为融合权重通常需要脆弱的全局调整。我们提出了 FCPRAG,一种融合控制的参数 RAG 框架,它添加了一个轻量级控制器,用于检索条件、样本级适配器融合。控制器预测每通道融合分数以及样本级校准信号,包括混合门和自适应温度,从而使融合在信息检索信号下保持选择性并在不确定性下保持保守。 FCPRAG 仅使用训练数据,通过源自多适配器合并中每个适配器的边际贡献的合并感知监督进行训练。我们进一步表明,在异方差检索不确定性下,单个数据集级别的温度不是最优的,从而激发了样本级别的适应。在三个 LLM 主干上的 HotpotQA、2WikiMultiHopQA、PopQA 和 ComplexWebQuestions (CWQ) 上进行的实验表明,FCPRAG 相对于标准 RAG 和参数 RAG 基线持续改进 F1,在 2WikiMultiHopQA 上增益高达 4.65%,在 CWQ 上增益高达 7.55%,同时还降低了调优成本并提高了检索扰动下的鲁棒性。