论文

词元提交之前:扩散 VLM 中视觉幻觉的轨迹级基准测试

Before the Token Commits: Trajectory-Level Benchmarking of Visual Hallucinations in Diffusion VLMs

模型评测评测方法与指标

摘要

多模态扩散语言模型通过迭代地揭开标记来生成响应,使每个答案成为多步骤轨迹的终点,而不是立即承诺。为自回归模型构建的幻觉基准仅评估最终输出,因此无法确定扩散 VLM 中不受支持的声明是否出现较晚或在任何答案标记揭示之前已经稳定。我们引入了 DynaHall,这是一个注释支持的二元视觉命题的轨迹级基准,涵盖对象存在、计数、属性和关系,并具有按视觉先验分级的受控硬负数。 DynaHall 与承诺感知协议配对,该协议记录每个揭露步骤的中间答案趋势以及承诺的输出。在来自三个架构系列的五个扩散 VLM 中,视幻觉在提交之前就得到了解决:不受支持的答案已经是首选状态,而答案位置仍然被屏蔽,并且后来的揭开步骤很少逆转它,因此不会在写入步骤中引入故障。这适用于解码时间表、答案格式和开放式生成。 DynaHall 还暴露了最终输出指标隐藏的故障,包括计数和关系崩溃、先验驱动的误报以及方向因类型而变化的属性错误。在此诊断的指导下,PGS(预承诺梯度引导)编辑仍然屏蔽的答案状态以减少误报,使肯定率接近平衡,并在不降低总体能力的情况下转移到另一个架构。 DynaHall 和 PGS 建议,幻觉应该沿着扩散 VLM 的生成轨迹进行测量和减轻,而不仅仅是在最终答案中。