论文
LLM 真的能在分子领域进行推广吗?基于扰动的分析
Do LLMs Truly Generalize in the Molecular Domain? A Perturbation-Based Analysis
摘要
大语言模型 (LLM) 最近在分子发现方面表现出了希望,但它们在离散序列标记上的概率性质与化学空间的严格拓扑约束之间仍然存在差距。这就提出了一个问题:分子 LLM 是否可以推广到由基于序列的表示引起的局部邻域之外。为了系统地研究这个问题,我们引入了一个分子扰动框架,该框架在受控的图编辑距离(GED)下生成训练分子的语法有效的结构变体,以探测分子 LLM 的流形规律。我们的分析表明,即使是一次编辑也会导致常见分子任务的性能大幅下降,揭示出狭窄的局部信任区域和对结构变化的脆弱敏感性。由于相似的分子往往表现出相似的特性,因此将预测锚定在结构相似的分子上的上下文调整 (ICT) 提供了一种自然的方法来减轻这种脆弱性。我们的实验还检验了 ICT 是否在受控结构扰动下具有鲁棒性,结果表明它可以部分扩展局部信任区域,并为稳定分子 LLM 对抗结构变化提供了一个有希望的方向。