通过概念干预诊断医疗影像模型

医学成像模型通常作为黑匣子运行，限制了可解释性和系统调试。我们引入了一个易于使用、即插即用的框架，用于基于概念的解释和模型细化。通过将单模态编码器与 BioMedCLIP 对齐，我们构建了一个概念瓶颈模型 (CBM)，可实现概念级干预。这些干预措施使我们能够分离因果关系与虚假相关的概念，验证领域专家的见解，并生成反事实样本以进行有针对性的微调。我们在 Mayo Clinic 超声数据集和 CheXpert 5x200 胸部 X 射线数据集上评估我们的框架。结果表明，概念干预可以实现可靠的模型诊断，同时通过引导微调维持并偶尔提高预测性能。我们的研究结果强调了该框架对于临床深度学习模型的受控、可解释的细化的实用价值。