ProvenAI：生成答案中证据的来源本地痕迹

检索增强系统通常会在生成的答案旁边显示引文，但引文并不能确认相应的来源有意义地塑造了输出。本文介绍了 ProvenAI，这是一个框架，它将多跳问答的透明度分解为三个独立可测量的层：答案正确性、针对基准支持证据的引用保真度以及留一资源干预下每个文档的影响力。 ProvenAI 通过涵盖数据标准化、检索索引、引文感知答案生成、归因审核、基于消融的影响估计、批量评估和交互式检查的七阶段管道，以 HotpotQA 干扰基准为目标，评估了从 509,300 篇文章的规范语料库中提取的 7,405 个验证示例。该系统的答案准确率达到 53.53%，平均引文保真度得分为 71.55%，并且一个有效的示例显示了我们所说的引文影响力差距：一次干净的引文审计与一个配置文件同时发生，其中一个被引用的来源仅记录了微弱的影响，而七个未引用的来源明显改变了输出。我们通过规定的 忠实性 条件将所实现的表面代理与 词元级 KL 散度目标之间的关系形式化，将框架建立在因果中介分析和数据库起源理论的基础上，并讨论三个测量层如何与自主科学发现中出现的密码起源架构相结合。 ProvenAI 确定，基于检索的 QA 中有意义的透明度需要将检索的、引用的和行为影响的证据作为三个不同的、独立测量的层进行可追踪的链接。