论文
InsightSR:通过并行语义和结构 LLM 指导细化符号回归搜索空间
InsightSR: Refining Symbolic Regression Search Spaces via Parallel Semantic and Structural LLM Guidance
摘要
符号回归(SR)试图从观测数据中发现简约的数学定律,但传统方法常常难以应对物理意义表达式的巨大组合搜索空间。我们提出了 InsightSR,一个嵌入 大语言模型 (LLM) 作为 PySR 遗传编程引擎周围指导层的框架。 InsightSR 不是依赖 LLM 直接生成表达式,而是使用 LLM 通过两个互补的路径逐步转换搜索空间本身:提出维度一致的功能骨架的语义种子路径,以及建议非线性特征转换的结构特征路径。这些转换通过迭代累积,扩大了输入空间,并将符号搜索从在原始变量上构建深层表达式树转变为在丰富的语义信息特征集上组装浅层树。生成后的反馈循环评估候选者,根据其经验效用对特征进行分类,并完善下一次迭代的指导,将发现过程从开放式生成转变为迭代、自我修正的细化。在三个基准测试中,InsightSR 在 Feynman 基准测试中实现了 95% 的精确恢复率,在 LLM-SRBench LSR 变换任务中实现了 80.18% 的准确率,大大优于最先进的遗传编程和神经符号方法,同时在现实数据集上保持了强大的分布外泛化能力。