在贝叶斯优化中释放LLM能力：面向科学发现的偏好引导框架

摘要

科学发现日益受制于高昂的实验成本和有限的资源，凸显了AI for Science中高效优化的必要性。贝叶斯优化（BO）虽因平衡探索与利用而被广泛采用，但常表现出冷启动性能缓慢和高维场景下可扩展性差的问题，限制了其在现实科学问题中的适用性。为克服这些挑战，我们提出LLM引导的贝叶斯优化（LGBO），这是首个将大语言模型（LLM）的语义推理持续融入优化循环的LLM偏好引导BO框架。不同于仅将LLM用于热启动初始化或候选生成的前人工作，LGBO引入区域提升偏好机制，将LLM驱动的偏好嵌入每一次迭代，以稳定且可控的方式移动代理模型的均值。在理论上，我们证明LGBO在最坏情况下不会显著差于标准BO，而当偏好与目标一致时可实现显著更快的收敛。在实证方面，LGBO在物理、化学、生物和材料科学的多种干实验基准上持续优于现有方法。最值得注意的是，在新的Fe-Cr电池电解液湿实验优化中，LGBO在6次迭代内达到了最佳观测值的90%，而标准BO和现有LLM增强基线需要超过10次。总之，这些结果表明LGBO为将LLM融入科学优化工作流提供了一个有前景的方向。

在贝叶斯优化中释放LLM能力：面向科学发现的偏好引导框架：论文配图 — 图 1：LGBO 框架。所提出的 LLM 引导贝叶斯优化集成了先验知识和 LLM 推理来热启动搜索，并迭代地将 GP 代理与区域提升的偏好相结合。在每一轮中，LLM 都会提供粗略的区域指导，以替代项的均值平移的形式实现，而获取函数则选择下一个实验。这种设计可确保最坏情况下的稳定性，同时在指导信息丰富时实现加速。