论文

SciCore-Mol:以可插拔分子认知模块增强大语言模型

SciCore-Mol: Augmenting Large Language Models with Pluggable Molecular Cognition Modules

模型架构混合架构

摘要

大语言模型(LLM)是“一体通用”智能范式的核心,但在处理分子等异构科学数据时面临根本挑战:离散语言符号与拓扑分子或连续反应数据之间的固有鸿沟,会在基于文本的推理中造成显著的信息损失和语义噪声。我们提出SciCore-Mol,一个通过三个深度集成的可插拔认知模块弥合该鸿沟的模块化框架:拓扑感知感知模块、基于潜在扩散的分子生成模块和反应感知推理模块。每个模块通过学习到的表示接口与LLM主干耦合,实现比纯文本工具反馈更丰富的信息交换。我们在多样化学任务上的实验表明,SciCore-Mol在分子理解、生成、反应预测和通用化学知识上均取得强劲的综合表现,其80亿参数的开源系统可与专有大模型竞争,并在若干维度上实现超越。这项工作为通过解耦、可插拔且可灵活编排的模块赋予LLM科学专长提供了系统性蓝图,对药物设计、化学合成及更广泛的科学发现具有直接意义。

SciCore-Mol:以可插拔分子认知模块增强大语言模型:论文配图
图 1:SciCore-Mol 概述。 GVP编码器、扩散解码器和反应变压器分别对应于拓扑感知模块、分子生成模块和反应传感模块。 SciCore-Mol 将这些模块与 LLM 主干集成,以支持分子属性预测、分子生成、合成预测、逆合成、产量预测和字幕。