使用来自病理学幻灯片基础模型的多教师 蒸馏 预训练多实例学习网络

多实例学习（MIL）已成为计算病理学中全幻灯片图像（WSI）分析的主要范例。然而，现有的 MIL 聚合器通常仍然针对每个下游任务从头开始训练，依靠有限的幻灯片级别标签来同时学习聚合机制和下游判别表示。因此，它们经常遭受优化不稳定、过度拟合和可迁移性有限的问题。与自然图像学习中预训练的 ResNet 和 Vision Transformer 模型类似，MIL 也需要可重复使用的预训练初始化。然而，高质量的滑动级预训练数据仍然稀缺，而且MIL模型通常是轻量级且弱监督的，使得大规模预训练在实践中变得困难。为了应对这一挑战，我们提出了一个基于 蒸馏 的 MIL 预训练框架，该框架利用两个幻灯片级基础模型 TITAN 和 CARE，作为教师将其表征知识转移到一组不同的 MIL 架构中。为了有效平衡不同教师的监督，我们进一步引入了角色散归一化 蒸馏 损失。然后将蒸馏后的权重用作下游适应的初始化。我们在线性探测和全参数 微调 下对 15 个基准数据集进行了系统评估，并进一步验证了其在少样本场景中的优势。实验结果表明，与从头开始训练相比，预训练通常可以改进 MIL 聚合器，特别是在线性探测和少样本设置中，同时保持轻量级 MIL 模型的计算效率。代码可在 https://github.com/fu0201/MIL_Pretrained 获取。