论文

TrustMargin:无需训练 参数内存与 大语言模型 中检索到的证据之间的仲裁

TrustMargin: Training-Free Arbitration between Parametric Memory and Retrieved Evidence in Large Language Models

上下文与知识检索增强

摘要

大语言模型 使用参数记忆和检索到的证据来回答知识密集型问题,但这两种来源都不是一致可靠的。检索可以填补知识空白,但分散注意力的段落可能会覆盖正确的闭卷答案。我们将这种生成后冲突作为答案级源仲裁来研究:给定来自同一冻结模型的 Direct 和 RAG 答案,决定信任哪个源。我们提出了 TRUSTMARGIN,这是一个 无需训练 即插即用仲裁层,它可以根据模型自身的可能性对两个现有候选者进行评分。它结合了参数先验边缘(测试记忆是否接受检索到的答案)和证据绑定边缘(降低仅段落的显着性并衡量特定问题的支持)。 TRUSTMARGIN 在 Direct 和 RAG 之间进行选择,无需 微调、外部法官或额外生成。在具有三个 LLaMA 尺度的 2WIKIMQA 和 CWQA 中,TRUSTMARGIN 持续改进直接生成和 BM25-RAG,恢复部分 Direct/RAG 预言机差距,并推广到多个 无需训练 RAG 管道。