论文

通过凝聚预训练从解剖学到疾病表型的通用 CT 表示

Universal CT Representations from Anatomy to Disease Phenotype through Agglomerative Pretraining

模型训练预训练

摘要

计算机断层扫描 (CT) 是三维医学成像的核心,但基于 CT 的人工智能在分割、分类、配准和报告分析的特定任务模型中仍然支离破碎。在这里,我们介绍了 FlexiCT,这是一系列 CT 基础模型,通过对来自 56 个公开数据集的 266,227 个 CT 体积进行凝聚连续预训练来训练,形成了用于 CT 表示学习的大规模公共资源。 FlexiCT 使用跨三个阶段的凝聚预训练:二维轴向预训练、三维解剖预训练和报告引导的语义对齐。该训练策略支持切片级、体积级和视觉语言分析。在五个下游任务系列(分割、分类、配准、视觉语言理解和临床检索)中,FlexiCT 在多个基准上匹配或超过了先前的特定任务方法。其嵌入进一步沿着与不同肿瘤阶段相关的梯度组织 CT 扫描,表明 CT 基础模型可以捕获与疾病表型表征相关的成像特征。项目页面和代码位于:https://ricklisz.github.io/flexict.github.io 和 https://github.com/ricklisz/FlexiCT。