VANDAM：利用 DNA 分子先验查看核苷酸序列

当代基因组基础模型 (GFM) 依赖于 DNA 作为字符串的范式，该范式采用屏蔽标记预测目标进行预训练。然而，这种抽象并没有明确地模拟生物功能所必需的生化、结构和物理特性。许多分子特性可以使用已建立的生物物理模型根据序列进行估计，因此它们的效用不在于提供独立的模式，而在于引入训练目标可以明确利用的先验。我们引入了 VANDAM，这是一个利用 DNA 分子先验扩展 GFM 训练的框架。在自我监督训练中，VANDAM 从汇总表征中预测区域分子特性。当功能标签可用并且可以奖励保留分子先验时，在输入处另外注入局部特征。 VANDAM 通过补充基于词元的目标，持续提高四个架构系列和九个保留基因组任务的下游性能。探测实验进一步证明，分子先验的使用可以推广到其他看不见的分子特性。