论文
FunctionEvolve:使用 LLM 进行结构引导的符号回归
FunctionEvolve: Structure-Guided Symbolic Regression with LLMs
摘要
符号回归旨在从数据中揭示明确的科学规律。最近的方法使用 LLM 来引导背景文本的突变,这比随机遗传编程更有针对性。然而,精确的符号恢复需要语义指导和显式结构,以便通过有效的符号表示来进行领域信息搜索。当前的 LLM 驱动系统仍然是结构盲的:它们在不透明的候选者中进行选择,缺乏局部突变的明确机制,并且依赖于可能低估正确骨架的脆弱系数拟合。我们提出了 FunctionEvolve,这是一个使用表达式树来组织整个搜索的进化框架:结构摘要促进多样化的父级选择,本地树编辑保留有用的子表达式,结构感知拟合分解、约束和简化系数以获得更可靠的评分。它仅使用基本函数族,没有限制泛化的附加特定领域规则。在 LLM-SRBench 的 129 任务合成子集上,使用 \emph{Claude Opus 4.6} 的 FunctionEvolve 恢复了 107 种精确形式,达到 82.9% SA@50,比相同主干基线高出 4.5 倍,以及 55.8% SA@1,比之前发布的最强 top-1 结果高出 3.6 倍。消融表明,结构可见搜索是可靠恢复的核心,LLM 引导的细化和结构感知系数优化作为基本的建议和评分机制。我们还审核了基准,并表明其材料科学子集中的共线性会产生可识别性问题。