CytoBERT：细胞计数数据的基础模型

细胞计数测量单个细胞的复杂特征（例如免疫细胞的计数和蛋白质表达），并广泛应用于免疫学研究和临床环境。然而，由于实验方案和测量特征的选择，细胞计数数据高度异质且不标准化。虽然机器学习方法有可能更深入地了解细胞生物学，但这些挑战使得它们难以在研究中应用和转移。基础模型的最新进展可以缓解这些问题，但该领域仍然缺乏相应的方法。为了解决这个问题，我们提供了 CytoBERT，这是一种公开的、开源的、开放权重的基础模型，用于具有可变标记面板的单细胞细胞计数数据。 CytoBERT 在通过标记标准化管理的大规模细胞计数语料库（15 个具有异质标记组和超过 5000 万个细胞的人类数据集）上以自我监督的方式进行预训练，使其能够学习细胞内可转移的标记间关系。用于样本级分类的 微调 CytoBERT 表明，跨异构细胞计数数据集的迁移学习是可行的，为可扩展、通用的细胞计数分析提供了起点。代码可在 GitHub 上获取。