论文

元数据、结构还是策略? RAG 上下文丰富的分解

Metadata, Structure, or Strategy? A Decomposition of RAG Context Enrichment

模型评测模型行为与机制分析

摘要

检索增强生成(RAG)系统通过附加高质量元数据、将其构建为明确的记录以及采用跨步骤积累证据的多跳检索策略,日益丰富检索到的段落。这些变化假设更丰富的背景会产生更好的答案,但现有的评估无法测试这一点,因为它们同时改变了所有三个因素。我们通过六个基准、来自三个系列的四个模型和五个丰富级别的对照实验中分离出每个因素,总共评估了超过 24,000 个响应。该假设不成立。大多数浓缩都会降低准确性。提示使用置信度分数的模型正确地符合要求,但产生的答案更差,利用率和准确性之间存在以前的工作尚未测量到的差距。决定答案质量的不是上下文携带多少元数据,而是模型是否可以针对给定任务对其进行操作。当元数据和检索策略与模型功能保持一致时,较小的模型比前沿模型的性能高出 19 个 F1 点。这些发现激发了可处理性层次结构,该层次结构仅根据 预训练 属性来预测模型可以有效使用哪些元数据,将 RAG 设计重新定义为模型上下文对齐问题,而不是元数据积累问题。