论文
密集检索中训练引起的对 LLM 生成内容的偏差
Training-Induced Bias Toward LLM-Generated Content in Dense Retrieval
摘要
密集检索是在开放域自然语言处理任务中获取相关上下文或世界知识的一种有前途的方法,目前广泛应用于信息检索应用中。然而,最近的报告声称人们普遍偏爱 大语言模型 (LLM) 生成的文本。这种偏差被称为“来源偏差”,并且假设较低的困惑度会导致这种效应。在本研究中,我们通过进行受控评估来重新审视这一主张,以追踪跨训练阶段和数据源的此类偏好的出现。使用 SciFact 和 Natural Questions (NQ320K) 数据集的并行人类和 LLM 生成的对应数据,我们将无监督检查点与使用域内人类文本、域内 LLM 生成的文本和 MS MARCO 微调的模型进行比较。我们的结果表明:1)无监督的 检索器 没有表现出统一的亲 LLM 偏好。方向和大小取决于数据集。 2) 在测试的设置中,MS MARCO 上的受监督 微调 始终将排名转向 LLM 生成的文本。 3) 域内 微调 产生数据集特定且不一致的偏好变化。 4) LLM 生成的语料库上的 微调 会引起明显的亲 LLM 偏差。最后,以 检索器 为中心的困惑探针涉及将语言建模头重新连接到经过微调的密集 检索器 编码器,表明与接近机会的相关性一致,从而削弱了困惑的解释力。我们的研究表明,源偏差是一种训练引起的现象,而不是密集 检索器 的固有属性。