论文

PROTON:用于医疗 VLM 的基于原型测试的在线 OOD 检测

PROTON: Prototype-Based Test-Time Online OOD Detection for Medical VLMs

模型推理推理验证与自校正

摘要

医学视觉语言模型 (VLM) 可实现零样本临床图像分类,但在部署时可靠地检测分布外 (OOD) 输入仍然是一个悬而未决的问题。没有一种静态评分方法适用于所有位移类型:FLAIR 上的最大概念匹配 (MCM) 对于远 OOD 实现了 76.4% AUROC,但对于协变量位移(例如超宽视场眼底图像)仅达到 42.4%,实际上是随机的。我们将其追溯到结构不匹配:协变量移位输入与 softmax 空间中的分布样本无法区分,但在 VLM 嵌入空间中占据不同的区域。为了利用这个未开发的信号,我们提出了 PROTON(基于原型的测试时间在线 OOD 检测),这是一个轻量级的事后模块,可以根据高置信度测试预测维护在线原型库,并通过流级方差统计自适应地将原型距离与 MCM 评分融合在一起,无需模型修改、训练数据或即时工程。在眼科基准 FLAIR + FIVES 上,PROTON 在协变量偏移上将 MCM 提高了 +23.9 AUROC,在语义偏移上提高了 +8.8,在远 OOD 上提高了 +8.1,使其成为唯一在没有分层提示或标记数据的情况下改进这三项的零样本方法。代码可在 https://github.com/GenMI-Lab/PROTON 获取,项目页面可在 https://genmi-lab.github.io/PROTON 获取。