论文

标签模仿游戏:零样本伪标签剪枝的图灵测试网络

The Label Imitation Game: Turing Test Network for Zero-Shot Pseudo-Label Pruning

模型训练合成数据

摘要

基础模型伪标记(严格通过零样本推理来标记数据)可以实现大规模扩展,但性能会因逃避标准阈值的幻觉而受到损害。为了消除这些错误,我们引入了受图灵启发的标签模仿游戏(LIG),这是一个将伪标签修剪形式化为对抗性询问的框架。我们不是通过孤立的阈值过滤标签,而是使用 LIG 来训练图灵测试网络 (TTN),这是一个与任务无关的“法官”,可在数据集范围内评估候选伪标签。四个不同数据集的实验证明了 TTN 的稳健性,能够持续提高三种最先进的视觉语言模型的标签准确性,而无需昂贵的监督或再训练。至关重要的是,我们证明了学习到的语义上下文逻辑是空间几何验证的稳健替代方案,实现了独特的零样本任务传输能力——在图像分类数据集上严格训练的 TTN 可以有效地修剪复杂的对象检测伪标签。这种修剪使得表现最差的基线类别的 F1 分数提高了 28%,对于特定任务的 微调 提高了 44%。值得注意的是,我们还观察到类别复兴,其中 TTN 修剪“解毒”了下游模型的训练信号,并使它们能够从易转移类别的零召回中恢复。预训练的 TTN 模型和代码可在 https://github.com/voxel51/ttn 上获取。