论文

化学生成模型和基础模型的高阶分子语法

Higher-Order Molecular Grammars for Generative and Foundation Models in Chemistry

应用与实践科学研究

摘要

分子学习模型很大程度上受到其底层表征的影响。然而,标准的顺序和图形式主义很难显式地编码高阶拓扑,例如环系统和循环图案。现有的高阶表示可以直接捕获这些结构,但它们通常需要大量计算,并且难以解码为有效的分子。在这里,我们介绍高阶语法表示(HGR),这是一种有原则的、拓扑感知的框架,它将分子提升为组合复合体,并在上下文无关的高阶语法下将每个复合体解析为紧凑的生产规则序列。通过将高阶拓扑序列化为规则序列,HGR 使这些结构直接与标准序列模型兼容,避免了显式高阶编码的计算开销,同时保留了拓扑表达能力。为了减少对简单环系统的基准偏差,我们构建了 RingDiv,一个包含 118 万个分子的环丰富基准,包括精心设计的 RingDiv300k 子集,并引入环多样性指数 (RDI) 来量化环系统覆盖范围。在分子生成中,基于 HGR 的模型独特地将 100% 构建有效性与领先的分布对齐相结合,在全部五个生成基准的 FCD 中排名第一。在表示学习中,HGR-FM 在两种传输协议下的七个 MoleculeNet 基准测试中实现了最高的平均 AUC,在探测和完全微调下分别比最强基线提高了 8.3 和 3.3 AUC 点。总的来说,这些结果将 HGR 确立为分子生成和可转移表示学习的有效高阶表示。