论文
SCoNE：选择性上下文感知神经元编辑以实现稳健的检索增强生成
SCoNE: Selective Context-aware Neuron Editing for Robust Retrieval-Augmented Generation
摘要
检索增强生成（RAG）对检索噪声高度敏感：当检索到的文档混合了信息丰富和不相关的上下文时，LLM 很容易分心，导致幻觉。为了克服这个问题，我们提出了 SCoNE（选择性上下文感知神经元编辑），这是一种 无需训练 模型编辑方法，通过选择性地加强由高归因和高交叉输入变异性识别的上下文感知 FFN 神经元来提高检索噪声的鲁棒性。 SCoNE 只需要少量的挖掘样本，不需要 微调，也没有推理时间开销。在各种知识密集型问答基准和两个 LLM 主干中，SCoNE 始终优于竞争性基线方法。我们的代码可在 https://github.com/HYU-ARK-Lab/SCoNE 获取。