论文
故意进化:使用 LLM 进行样本有效符号回归的代理推理
Deliberate Evolution: Agentic Reasoning for Sample-Efficient Symbolic Regression with LLMs
摘要
符号回归 (SR) 从数据中发现紧凑的数学表达式,但最近基于 LLM 的进化方法仍然样本效率低下,因为它们主要依赖于标量反馈,例如 MSE。我们确定了一个核心限制:现有方法将候选提案与搜索指导混为一谈,要求 LLM 推断如何演化表达式、诊断其错误并从单个分数重用过去的经验。为了解决这个问题,我们提出了故意进化(DE),这是一种将符号生成与搜索控制分离的代理框架。 DE 通过用于搜索方向的自适应算子、用于结构诊断的分析工具以及用于轨迹级经验的反射记忆来指导 LLM 提案。 LLM-SRBench 上的实验表明,DE 在不同科学领域中始终优于基于 LLM 的代表性 SR 基线,同时仅使用标准样本预算的 40%。