论文
AgentDiscover:具有最少搜索脚手架的自主发现
AgentDiscover: Autonomous Discovery with Minimal Search Scaffolding
摘要
使用大语言模型进行科学发现的框架通常依赖于固定的、人为设计的算法,该算法决定模型在每一步看到的内容,使模型仅扮演提议者的角色。除了显示的内容之外,模型对搜索一无所知。随着模型的能力越来越强,出现了一个问题:人类在运行之前选择的搜索策略是否比将模型从提议者提升为规划者并让它拥有搜索权更好?惨痛的教训表明,提前选择策略是一种手工设计的结构,一般方法最终会超越这种结构。我们引入了 AgentDiscover,其中编码智能体使用其上下文作为工作记忆来计划搜索,运行实验,并将每次尝试记录在想法、候选者及其关系的数据库中。该数据库作为智能体的长期记忆,其结构使得MAP-Elites和蒙特卡洛树搜索等经典算法的选择规则各自减少为单个查询,智能体可以自由使用、组合或替换。服务器维护数据库并在每次提交后引导智能体,使其在长期运行中保持正常运行。在我们的实验中,AgentDiscover 比现有框架更具成本效益,以更低的成本达到更好的分数。在内核工程、生物学、算法设计和数学任务上,AgentDiscover 的性能优于先前的发现框架。在过去的七次 AtCoder 启发式竞赛中,它的程序在人类竞争对手中名列第一,并且在 11 项数学和系统优化任务中,它匹配或超过了使用相同模型的每个基线。我们的代码可在 https://github.com/mhdfb/AgentDiscover. 获取