论文

CliffSearch:科学算法发现的理论和代码的结构化代理协同进化

CliffSearch: Structured Agentic Co-Evolution over Theory and Code for Scientific Algorithm Discovery

应用与实践科学研究

摘要

科学算法的发现是迭代的:提出假设、实施、压力测试和修订。当前的 LLM 引导搜索系统加速了提案生成,但通常通过优化正确性/原创性门控较弱的纯代码工件来代表科学结构。我们提出了 CliffSearch,一个代理进化框架,其中核心进化算子(对选择、交叉、变异和审查)被实现为 LLM 代理,循环围绕三个原则设计:(1)每个节点都是一个结构化的科学工件,以理论+代码或仅代码模式实例化,(2)审查者对正确性和原创性的判断是一流的选择门,同时优化感兴趣的基准指标,(3)突变被分为探索以及具有明确目标的纠正途径。探索突变从邻近的科学领域引入想法以增加新颖性,而校正突变则使用审阅者对理论、代码、基准测试结果和运行时错误的信号来执行有针对性的证据引导修复。我们通过三个基于基准的研究来说明该框架:Transformer 超连接演化、固定 nanoGPT 堆栈上的优化器发现以及较小的本机优化器消融。在这些设置中,相同的循环支持明确的度量方向、可重复的持久性以及受控搜索条件下发现的审阅者门控比较。结果是一个发现工作流程,优先考虑科学可解释性和正确性,同时在受控的新颖性约束下优化任务指标,而不是仅仅最大化候选吞吐量。报告研究的完整运行工件、交互式可视化和导出的最佳节点可在 https://cliffsearch.ai 上获得。