论文

当关系破裂时:分析旋转和噪声下视觉语言模型中的关系幻觉

When Relations Break: Analyzing Relation Hallucination in Vision-Language Model Under Rotation and Noise

模型评测鲁棒性、公平性与可信度评测

摘要

视觉语言模型(VLM)实现了强大的多模态性能,但仍然容易产生关系幻觉,这需要对对象间交互进行准确的推理。我们研究了视觉扰动的影响,特别是旋转和噪声,结果表明,即使是轻微的扭曲也会显着降低模型和数据集之间的关系推理能力。我们进一步评估基于提示的增强和预处理策略(方向校正和去噪),发现虽然它们提供了部分改进,但它们并不能完全解决幻觉。我们的结果揭示了感知鲁棒性和关系理解之间的差距,凸显了对更鲁棒、几何感知的 VLM 的需求。