GAM-RAG：面向检索增强生成中演化检索的增益自适应记忆

摘要

检索增强生成（RAG）用外部证据为大语言模型接地，但许多实现依赖构建后保持静态的预建索引。因此相关查询要重复相似的多跳遍历，增加延迟与算力。受认知神经科学中基于图式学习的启发，我们提出 GAM-RAG，一个免训练框架，从重复或相关查询中积累检索经验并随时间更新检索记忆。GAM-RAG 构建轻量、无固定关系的层级索引，其链接捕捉潜在共现而非固定语义关系。推理时，成功的检索过程提供句子级反馈并更新句子记忆，使对同类推理有用的证据之后更容易被激活。为在噪声反馈下平衡稳定性与适应性，我们引入不确定性感知、受卡尔曼启发的增益规则，联合更新记忆状态与基于困惑度的不确定性估计。它对可靠的新信号快速更新，对稳定或嘈杂的记忆保守修正。我们对更新动力学给出理论分析，并实证表明 GAM-RAG 较最强基线平均提升 3.95%，启用 5 轮记忆时提升 8.19%，同时推理成本降低 61%。代码与数据集见：https://anonymous.4open.science/r/GAM_RAG-2EF6。

GAM-RAG：面向检索增强生成中演化检索的增益自适应记忆 — 图2：我们的方法概览。GAM-RAG为检索引入了一种免训练、增益自适应的句子记忆。查询会激活实体节点并运行迭代图传播以发现多跳证据。在每一轮（episode）之后，一种受卡尔曼启发、不确定性感知的增益更新会同时调整记忆状态及其困惑度，使更新在噪声信号下保持稳定。