论文

从上下文感知到冲突感知:泛化对比解码以应对LLM中的知识冲突

From Context-Aware to Conflict-Aware: Generalizing Contrastive Decoding for Knowledge Conflict in LLMs

模型推理解码与生成控制

摘要

当大型语言模型从检索或增强的上下文生成时,外部上下文和参数先验之间的冲突仍然是中心可靠性瓶颈。现有的对比解码方法遵循 \emph{上下文感知} 范式,该范式单方面放大参数先验的上下文,当上下文错误时覆盖正确的先验。我们将其概括为 \textbf{冲突感知} 范式,该范式根据冲突信号在先验和上下文之间动态分配权限,而不是预先假设上下文的可信度。我们证明,先验和上下文 logits 的仿射组合产生一个具有固有 \textbf{regime 不对称性} 的 \textbf{power family}:当先验正确时,外推法会无限放大错误,当上下文正确时,插值会欠校正,并且没有静态制度涵盖两者。现有的对比解码方法是该系列的实例,大部分是外推法。为了评估两个冲突方向,我们提出了 TriState-Bench,这是一种模型感知评估协议,可校准每个模型的先验知识以测量三种冲突状态:校正、阻力和一致。为了解决不对称性,我们提出了自适应机制路由(ARR),它在每一步的机制之间进行路由,将阻力 EM 从低于 6 提升到 16--33,而不牺牲校正或一致性。我们的代码可在 https://github.com/keith-Jiang/conflict-aware-decoding 获取。

从上下文感知到冲突感知:泛化对比解码以应对LLM中的知识冲突:论文配图
图 1:统一的功率系列框架(上)以及拟议的 ARR 和现有方法之间的比较(下)。