论文
HalluPrism:当多模态不确定性应该诊断而不是决定时
HalluPrism: When Multimodal Uncertainty Should Diagnose, Not Decide
摘要
多模式 大语言模型 (MLLM) 可以为因不同原因失败的答案分配类似的置信度。我们提出 HalluPrism,一种行为诊断,可在视觉退化、空白图像替换以及视觉定位或关系检查后重新运行答案。这些靶向探针产生视觉扰动灵敏度 (V)、图像去除置信度保留 (L) 和视觉定位/关系探针不稳定性 (A) 的特征。在来自四个基准和四个 MLLM 的 58K 多个示例中,图像去除置信度保留最为普遍,而视觉定位/关系探针不稳定性可以更好地区分故障族。 48 个源-目标检查中只有 18 个是对角对齐的,因此坐标应该联合解释,而不是作为独立的因果源。数据集固定后,联合签名将 HallusionBench 上的故障系列 AUROC 从 0.634 提高到 0.769,在 VizWiz 上从 0.707 提高到 0.817,而 POPE 和 VSR 的增益较小。在汇总 XGBoost 分析中,AUROC 从标量置信度时的 0.78 上升到 (V, L, A) 时的 0.95,以及添加置信度时的 0.97。相同的签名不会自动提高正确性排名。三个测试的直接标量化可能会损害它。这些结果将失败诊断与弃权评分分开:多模态不确定性应在用于决定是否弃权或纠正之前表征失败结构。