论文
FIDES：经深证据信号的检索-记忆冲突忠实推理
FIDES: Faithful Inference via Deep Evidence Signals for Retrieval-Memory Conflict in RAG
摘要
当检索到的证据与参数记忆相矛盾时，语言模型经常会忽略上下文并默认为记忆的先验——这种失败破坏了检索增强的核心目的。对比解码放大上下文条件输出以抑制参数偏差，但现有方法基于一个隐含的假设，即这种偏差在令牌之间是一致的。单一的全局对比权重过度惩罚安全令牌，同时使真正有冲突的令牌得不到充分纠正。我们确定了标记级冲突集中：检索记忆紧张是明显异质的，集中在一小部分关键答案的解码步骤上。这重新构建了对比解码，从应用多少对比度到应用何处。我们提出了 FIDES（通过深度证据信号进行忠实推理），这是一种免训练的解码器，它读取三个内部信号，在互补的深度（输出表面、隐藏表示和预测轨迹）探测检索记忆冲突，并将它们融合以控制每个解码步骤的干预强度。在三个基准和六个骨干网（四个主要 7B/8B 模型和两个高达 70B 的扩展骨干网）中，FIDES 在所有 18 种设置中实现了最佳上下文保真度，比最强的免训练基线高出 +3 到 +13 点。在 70B 规模上，保真度达到 92-94%，而 F1 飙升至 62-63%，这表明词元级别的选择性释放了粗略对比规则抑制的生成能力。
