论文

scAnyOmics:蒸馏冻结单细胞基础模型以补全多组学虚拟细胞

scAnyOmics: Foundation-Model Distillation for Any-to-Any Completion of Multi-omics Virtual Cells

模型优化应用与实践蒸馏科学研究

摘要

单细胞技术的最新进展使得多种分子模态的分析成为可能,包括转录组学、蛋白质组学和染色质可及性,从而提供对细胞状态的更全面的了解。然而,整合异质模态和预测缺失的分子信息仍然具有挑战性,特别是当配对测量受到限制时。在这里,我们介绍 scAnyOmics,这是一个生成框架,可将知识从冻结的单细胞基础模型中蒸馏到多模态学生模型中。 scAnyOmics 将 scRNA-seq、蛋白质标记测量和 scATAC-seq 集成到共享表示中,从而实现跨模态预测和缺失模态的重建。我们从六项公开研究中汇集了 690,880 个细胞,涵盖配对和部分配对的多组学测量,以系统地评估其预测性能。我们进一步根据留出的供者数据评估了 scAnyOmics,它在多个评估指标上的表现优于基线方法。除了跨模态重建之外,我们还探索了其在细胞类型注释、扰动响应预测和生物年龄估计中的应用。总体而言,scAnyOmics 提供了一个统一的框架,用于整合不完整的单细胞多组学数据并迁移预训练生物知识,支持跨不同细胞环境和实验平台的虚拟细胞模型的开发。

scAnyOmics:蒸馏冻结单细胞基础模型以补全多组学虚拟细胞:论文配图
图 1:scAnyOmics 框架概述。 scAnyOmics 包含四个主要组件:(A) 单细胞多组学输入,包括 scRNA-seq、表面蛋白 (ADT) 和染色质可及性 (ATAC); (B) 从三个冻结的基础模型(UCE、scLinguist 和 Atacformer)中蒸馏知识; (C) 通过屏蔽输入和自蒸馏进行多模态学生训练,以学习统一的细胞表示; (D) 下游应用,包括细胞类型预测、连续扰动响应预测和缺失模态推断。