论文
用于基于 CBCT 检测颞下颌关节骨关节炎的自监督视觉 Transformer
Self-Supervised Vision Transformers for CBCT-Based Detection of Temporomandibular Joint Osteoarthritis
摘要
颞下颌关节骨关节炎 (TMJ OA) 是一种常见的退行性疾病,其骨质变化在锥形束 CT (CBCT) 上通常很细微,这使得自动检测具有挑战性。我们研究了 DINO 系列自监督视觉 Transformer(DINOv1、DINOv2、DINOv2+reg 和 RAD-DINO(放射学预训练变体))如何很好地转移到 CBCT,询问需要多少骨干适应以及哪种适应。我们提出了一个使用 Vision Transformer (ViT) 主干的简单的基于切片的管道:轴向 CBCT 切片由冻结或部分适应的 ViT 对每个切片进行编码,并通过基于注意力的多实例学习 (MIL) 进行聚合,以进行患者级别的二元 OA/正常分类。通过对多源 CBCT 数据集上的解冻策略和聚合设计进行系统消融,我们发现最后两个 Transformer 块的部分解冻是决定性因素,将 AUC 从 0.671(完全冻结的 DINOv2)提高到 0.902。这优于 DINOv1 (0.867)、DINOv2+reg (0.774) 和有监督的 ImageNet ViT-B/16 基线 (0.843)。我们的结果为在低数据医学成像环境中适应 DINO 系列基础模型提供了实用指导,表明适应策略比单独的主干选择更能驱动性能。