论文
保持针尖,修剪大海捞针:保留缺陷的词元修剪以实现高效的零样本异常检测
Keep the Needle, Prune the Haystack: Defect-Preserving Token Pruning for Efficient Zero-Shot Anomaly Detection
摘要
零样本视觉异常检测取得了显着的进展,最近的仅视觉方法进一步提高了性能,同时简化了推理流程。然而,现有的方法通常对所有图像和空间标记执行密集计算,尽管正常样本在现实世界场景中占主导地位,并且异常通常只占据很小的区域。词元剪枝提供了一个有前途的解决方案,但在异常检测中引入了不对称剪枝风险:保留正常词元主要会导致冗余计算,而删除异常词元可能会消除检测和定位的唯一证据。这种风险在早期层尤其严重,其中修剪提供了最大的计算效益,但异常语义仍然不可靠。我们提出了 KeepAD,一个保留缺陷的词元修剪框架,它将词元选择制定为高召回率、异常感知路由。在浅层中,KeepAD 将局部 $2\times2$ 补丁邻域的覆盖范围保留选择与确定性异常救援相结合,以降低丢弃细微缺陷的风险。在更深的层中,冻结的正常和异常原型指导图像自适应 词元预算 下的修剪,积极删除低风险的正常标记,同时保留局部异常证据。稠密到稀疏的 self-蒸馏 进一步监督早期词元路由,而不会引入额外的推理开销。对六个工业和七个医疗零样本异常检测基准的实验表明,KeepAD 将词元保留率降低到 $20\%$ 以下,同时将图像级和像素级 AUROC 的平均降级限制在 $2.7$ 个百分点以内。在最激进的操作点,KeepAD 比基于 CLIP 的最强基线实现了 7.9倍的加速。