论文

TAP-Path:用于高效且值得信赖的病理学基础模型的任务自适应结构和词元修剪

TAP-Path: Task-Adaptive Structural and Token Pruning for Efficient and Trustworthy Pathology Foundation Models

摘要

病理学基础模型改进了组织病理学的可转移表示学习,但最近的成果通常依赖于具有数亿参数和高推理成本的编码器。我们提出了 TAP-Path,一种任务自适应压缩框架,它直接重构预训练的 Virchow2 编码器,而不是将其提炼到单独的学生中。 TAP-Path 结合了验证驱动的 Transformer 块选择、冗余块的物理删除、输入自适应补丁词元修剪、多深度特征恢复和轻量级门控任务头。最终模型在修剪后保留了 32 个 Transformer 块中的 24 个和 70% 的补丁词元,将编码器参数减少了 24.96%(631.24M 到 473.70M),分析编码器计算减少了 35.20%(340.13G 到 220.40G FLOP)。在三个任务头优化种子中,TAP-Path 在 32 类组织病理学基准上实现了 $87.98 \pm 0.067%$ 测试准确度、$81.26 \pm 0.49%$ 平衡准确度和 $82.38 \pm 0.48%$ 宏 F1,而完整 Virchow2 为 86.89%,UNI2-h 为 87.67%。 TAP-Path 的 Brier 分数为 $0.1800 \pm 0.0005$,故障检测 AUROC 为 $0.9047 \pm 0.0060$。仅验证稀有感知目标提高了二次操作分析中稀有类平衡的准确性。对 433 个 CPTAC 样本进行的冻结外部评估产生了 91.22 美元\pm 0.83%$ 准确度和 91.10 美元\pm 0.81%$ 平衡准确度。这些结果表明,任务自适应结构和标记稀疏化可以提高大型病理学基础模型的准确性-效率权衡,同时在内部和外部评估下保持可靠性。