通过代理增强自动研究进行代理贝叶斯优化

贝叶斯优化 (BO) 已成为样本高效优化的标准工具，其效率归功于由通用统计先验驱动的不确定性感知搜索。原则上，更丰富的领域先验可以改进 BO，但通过定制内核或问题结构对其进行编码很困难，并且在实践中很少这样做。 LLM 可以通过将自然语言、代码和文档中的非正式先验直接提供给优化器来帮助避开这一困难。然而，现有的基于 LLM 的 BO 方法要么将 LLM 插入固定角色（代理、获取代理或配置接口），要么赋予其广泛的控制权，从而牺牲了使 BO 可靠的系统探索。我们引入代理贝叶斯优化：一种范例，其中 LLM 代理是 BO 循环中的中央决策者，而贝叶斯后端提供不确定性感知优化基础。代理配置问题、查询后端、选择和提交评估，并可以在运行期间通过收紧边界、切换采集函数、提出有针对性的评估、甚至根据新指令或观察到的证据重新构建问题来修改优化策略。我们在 Sara（一个代理增强自动研究代理）和 lenz（一个基于 BoTorch 的模块化后端，代理可以通过结构化接口检查和修改）中实例化了这个想法。在综合和现实世界的基准测试中，Sara 在没有先验知识的情况下保留了最先进的 BO 的可靠性，优于基于 LLM 的基线，并使用自然语言先验来改进标准 BO。我们进一步证明了代理 BO 在动态设置中的实用价值，其中 Sara 在需求变化时动态重新配置完整的优化问题，这是标准 BO 以前不具备的功能。