论文

视野更清晰,谎言更少:针对多模式幻觉缓解的定向拾取偏好优化

Clearer Sight, Fewer Lies: Oriented Pickup Preference Optimization for Multimodal Hallucination Mitigation

模型训练偏好优化

摘要

多模态 大语言模型 (MLLM) 很容易产生幻觉,因为他们的世代偏好没有根据视觉证据进行充分校准,导致他们依赖于语言先验,而不是忠实依赖视觉证据。在这项工作中,我们从实证观察开始:当使用模型自身的注意力显式强化与查询相关的视觉证据时,生成变得更加准确,这表明许多失败不仅仅源于感知缺失,而是由于对模型已经关注的证据的信任倾向不足。受这一发现的启发,我们提出了定向拾取偏好优化(\texttt{OPPO}),这是一种证据感知的对齐目标,可以学习对视觉证据强度的偏好,而不仅仅是响应质量。具体来说,\texttt{OPPO} 在更强、锚定、更弱的证据视图下对比了相同的忠实响应,将天真的视觉偏好转变为有序的视觉证据对齐。我们进一步将此目标与细粒度跨度和 词元级 正则化相结合,以稳定训练。此外,我们提供的理论分析表明,有序证据边际会导致局部视觉敏感度出现正下限。对幻觉和通用基准的广泛评估表明,\texttt{OPPO} 始终优于基线方法。