论文
当知识不是免费的时:检索增强生成中具有成本意识的证据选择
When Knowledge Is Not Free: Cost-Aware Evidence Selection in Retrieval-Augmented Generation
摘要
检索增强生成(RAG)通常假设外部知识是免费的,但许多高质量来源是付费的、许可的、受限的或以其他方式访问的成本很高。我们引入了成本感知 RAG,在这种设置中,检索到的证据被分配了访问成本层,并且系统必须在明确的证据访问预算下进行回答。我们通过使用访问摩擦层增强 MS MARCO v2.1 来实例化此设置,并评估跨通用域和特定域 QA 基准的预算证据选择。我们的结果表明,静态选择是脆弱的:没有固定的选择器统一占主导地位,并且更大的预算并不能可靠地提高答案质量,即使昂贵的证据是领域匹配的。然后,我们研究代理成本感知 RAG,其中 LLM 决定何时检索、访问哪一层以及何时停止。智能体作为自适应证据获取控制器表现出了强大的前景,但它们的行为仍然高度依赖于模型和任务。这些发现表明,具有成本意识的证据获取是下一代 RAG 系统的核心挑战。所有代码和数据均可在 https://github.com/Mignonmy/Cost-Aware 获取。