GLACIER：用于分子特性预测的多模态学生-教师基础模型

深度学习模型有助于在数十亿候选化合物中发现具有定制特性的分子。然而，开发和部署最先进模型的计算负担不断增加，限制了其可扩展性。大多数大型模型本质上都是单峰的，并且忽视了利用互补分子数据模式的潜力。为了解决这些缺点，本文介绍了使用表示的化学推理和探索的图语言对齐（GLACIER）模型，这是一个集成分子图、SMILES 字符串和物理化学描述符来学习丰富的分子嵌入的师生框架。我们的框架由三个阶段组成：（1）我们对 100,000 个类药物分子预训练三个学生编码器：用于分子图的消息传递神经网络、用于 SMILES 字符串的基于 Transformer 的编码器以及用于物理化学描述符的多层感知器，（2）我们使用新颖的 Finsler 几何感知模块融合这些学生模态，以及（3）从大型教师模型中提取补充知识，包括 MiniMol 和MolFormer，通过对比学习将其转化为单一的轻量级模型。我们证明 GLACIER 是一个强大的框架，可以在复杂的分子特性预测任务中提供高预测性能和计算效率。我们的代码可在 https://github.com/eemokey/glacier 上公开获取。