CellWorld：空间转录组基础模型中从基因级重建到潜在细胞预测

本文表明，潜在空间预测式预训练可以为空间转录组学基础模型提供一条可扩展的路径。现有空间转录组基础模型主要重建被掩码的基因身份或表达值，可能促使模型复现检测特有的技术变异，从而限制表示的可迁移性。为避免直接重建这类变异，我们将预测目标从观测到的基因测量转向潜在细胞表示，并引入CellWorld，它从可见的空间上下文与有限的partial-expression提示预测被掩码细胞的潜在表示。我们在4600万人类细胞的语料上预训练了四个CellWorld变体，可训练参数量从5.74M到94.56M。受控的缩放实验表明，性能随模型容量提升，在空间任务上尤为明显，而空间迁移更多取决于充分的优化与广泛的生物来源多样性，而非单纯的细胞数量。在四个留出数据集上，即便是仅有5.74M可训练参数的CellWorld-Small，也在全部11个线性探测基准与全部七个微调空间基准上超越所有基线。最值得注意的是，仅在5%语料上预训练但覆盖广泛生物来源的冻结CellWorld-Large，在全部七个空间基准上超越所有完全微调的基线。代码见 https://github.com/UoM-HealthAI/CellWorld。