视觉词元压缩增强了 MLLM 的鲁棒性

在本文中，我们首次证明视觉词元修剪增强了多模式 大语言模型 (MLLM) 的鲁棒性，减轻了越狱攻击和幻觉等漏洞。鉴于视觉和语言模式无法完美对齐，未对齐的视觉标记可能会充当分布外（OOD）输入，导致不可预测的输出并引入潜在的漏洞。基于这一见解，我们的目标是通过减少鲁棒剪枝层的 OOD 视觉标记来增强模型针对越狱和幻觉的鲁棒性，同时降低推理成本作为附带好处。具体来说，我们测量每个视觉标记与语言特征空间之间的距离。然后，距离较大的视觉标记被识别为 OOD 标记，可以迭代修剪。为了证明我们方法的有效性，我们在七个不同的流行基准上对其进行了评估。值得注意的是，我们的方法在防御越狱攻击方面平均提高了 13.29%，在减轻幻觉方面始终保持有竞争力的表现，并在 MME 等通用数据集上保持强劲的结果。