Med-RADIO：通过多教师蒸馏将所有医学领域合二为一

大规模医学数据集和计算资源的快速扩展推动了医学基础模型的重大进步。鉴于医学成像模式固有的异质性，当前的研究主要遵循两条路径：针对特定模式优化的专业模型，以及旨在处理多种模式的通用模型。然而，医学通才模型面临着相对于自然图像通才而言训练数据规模不足和相对于医学专家而言特定领域深度不足的问题。根据经验，通才模型建立了跨模态性能基线，而专家则定义了各自领域内的性能上限。为了将这一基线提升到这些上限，我们提出了 Med-RADIO，这是一种医学多教师蒸馏框架，通过将多个特定领域教师的互补专业知识压缩到统一的医学视觉基础模型中，将所有领域缩减为一个。我们的方法同时管理通才和专业教师，分配模态对齐的蒸馏流来重新组织通才预训练数据，使其与专业领域相匹配，并使用平衡损失来防止任何单个教师主导蒸馏过程。在涵盖五种模式的内部和外部分类基准上，Med-RADIO 在线性探测下比强大的医学通才有所改进，并且在大多数评估模式上与代表性专家保持竞争力。代码可在 https://github.com/CAIR-HKISI/Med-RADIO. 获取