不更糟糕的上下文感知解码：防止上下文条件生成中的中性回归

大语言模型 (LLM) 可以在以外部上下文（例如检索到的证据）为条件时回答问题并总结文档，但上下文使用仍然不可靠：即使上下文不提供信息，模型也可能会覆盖已经正确的输出（中性回归）。我们将中性回归形式化为无害要求，并通过测量答案一致背景下基线正确项目的准确性下降来量化它。我们提出了 No-Worse Context-Aware Decoding (NWCAD)，这是一种基于两级门的两流设置构建的解码时间适配器：当上下文无信息时，它会退回到无上下文解码，否则在不确定性下使用具有 CAD 式回退的上下文条件解码。我们根据将无害可靠性与上下文利用率（真正有用的上下文的准确性增益）分开的基准来评估 NWCAD。 NWCAD 可防止对基线正确的项目进行中性回归，同时在有用的上下文中保持强大的上下文驱动的准确性。