论文
R-GroundBench:马库什分子编辑中 R 基团基础的诊断基准
R-GroundBench: A Diagnostic Benchmark for R-Group Groundingin Markush Molecular Editing
摘要
人工智能在科学发现方面的最新进展使分子理解和设计成为可能,但对不完整化学表示的推理仍不清楚。马库什结构通过可变 R 基团占位符(\textit{R\textsubscript{1}}、\textit{R\textsubscript{2}}、\textit{X} 等)对分子家族进行编码,在药品专利和专利中无处不在。需要跨越分子、文本和化学信息的基础。然而,现有的分子语言基准侧重于完全指定的分子,而 R 基团基础在很大程度上未被评估。我们引入 R-GroundBench:,一个根据真实专利马库什结构构建的诊断基准,具有控制难度和模态分裂的多项选择 (VQA) 轨道,以及开放式生成轨道。我们的结果揭示了识别和分子基础之间存在巨大差距。 Easy VQA 上的准确度为 90\%,当控制快捷键时,Hard VQA 上的性能下降到 56--66\%。化学域 VLM 也仍然不可靠,尽管进行了特定领域的预训练,但在 HardVQA 上仅达到 25.7--46.2\%。此外,大多数模型的“生成精确匹配”仍然低于 20\%,当需要视觉输入时,则低于 8\%。这些发现表明,当前的 AI 系统缺乏可靠的基础和执行马库什编辑,强调人工智能驱动的科学发现面临的挑战。