论文

训练知识库:代理管理的文档存储的监督结构学习

Training a Knowledge Base: Supervised Structure Learning for Agent-Curated Document Stores

摘要

检索增强生成将文档存储视为冻结输入,而在其上构建结构的离线管道则在无监督的情况下构建它——统一索引的整个语料库,没有关于问题需要哪种结构的信号。相反,我们将知识库视为在(问题,答案)对上训练的非参数模型:知识库维护智能体针对当前知识库回答受监督的问题,显示标准答案,然后编辑知识库。该商店继续发展,我们使用测试集在两个无污染基准上评估精选商店:KBGym(我们发布的虚构宇宙生成器)和 PhantomWiki。通过与训练集重叠逐渐减少的四个问题组来探讨泛化:训练过的问题本身,以及与训练共享两个键、一个键或两者都不共享的未见过的问题。策划商店的优势随着重叠而增长——从没有共享密钥的奇偶性,到两个密钥都共享的 +0.176 F1,到在训练问题上 +0.294 F1 时减少 25% 的操作,一个单元格在两个基准上都很重要——同时将 HippoRAG 的收益与 1,913 个链接与其 196,112 个链接相匹配:每覆盖一个语料库,操作节省量为 1.5 倍,准确度为 2.1 倍增益。准确性随着索引覆盖的语料库份额的增加而稳步上升,因此对更多问题的训练可以扩大覆盖范围,从而扩大泛化范围。