论文
ViroBench:病毒基因组任务的核苷酸基础模型基准测试
ViroBench: Benchmarking Nucleotide Foundation Models on Viral Genomics Tasks
摘要
核苷酸序列构成了生物系统的基本遗传基础,使得病毒基因组分析对于生物医学的进步至关重要。尽管生物基础模型,特别是核苷酸基础模型(NFM)取得了进展,但该领域缺乏病毒基因组学的统一标准来促进社区发展和实施生物安全限制。为了解决这个问题,我们推出了 ViroBench,这是第一个专门为病毒环境中的 NFM 设计的综合性大规模基准测试。 ViroBench 从两个关键维度评估模型:生物学理解和潜在的生物安全风险,涵盖 4 种任务类型中的 18 种不同场景。对跨不同架构的 66 个 NFM 进行广泛评估得出了三个关键结论。首先,NFM 在系统发育和时间变化下表现出生物学理解的性能下降,表明外推能力较弱。其次,生成任务揭示了统计可能性和生物功能有效性之间的脱钩,带来了潜在的生物安全风险。第三,受控消融研究表明,预训练数据的分类多样性超过了参数规模。具体来说,在不同数据上训练的轻量级基线比原始模型实现了 67.5% 的性能提升。总体而言,ViroBench 为病毒核苷酸基础模型的未来研究提供了可解释的诊断评估和可重复的测量框架。数据集和代码可在 https://github.com/QIANJINYDX/ViroBench 上公开获取。