论文
一致性有一个可计算的盲点:视觉语言图形阅读的无标签可靠性交换理论
Consistency Has a Computable Blind Spot: A Commutation Theory of Label-Free Reliability for Vision-Language Figure Reading
摘要
视觉语言模型的无标签可靠性依赖于不变性:扰乱输入,忠实读者的答案不应改变。这有一个已知的盲点,系统性的误读在扰动中幸存下来并被证明是错误的,我们证明这是可计算的,而不仅仅是真实的:当两个交换时,错误对于编辑来说是不可见的,因此套件无法从其联合集中器达到错误,联合集中器是一个随着编辑添加而缩小的集合,并且可以写下来而不是猜测。我们根据互补关系、等方差采取行动:编辑图形的数据,正确的答案必须改变可计算的量。对于仿射阅读错误,两个匹配的编辑已被证明是完整的;对于标签排列来说,没有一套交换编辑是完整的,循环重新标签弥补了大部分差距。我们将该理论实例化为等方差一致性评分,这是一个无标签的 无需训练 检测器,并发布 REND-EQUIV,在相同数据上配对匹配的不变性和等方差集。预测的排序适用于三个模型和一个手工标记的群体,不受其选择方式的单一循环影响;第二种不变性族方法确认盲点属于关系,而不属于任何实现;循环重新标记可在匹配的真实样本上提供其预测增益。同样的特征解释了分类器变质测试文献中报告的这种顺序的反转:可检测性是关系和故障类的联合属性,而不是关系单独的属性。