论文

MOT-SR:使用 大语言模型 进行多目标工具增强科学方程发现

MOT-SR: Multi-Objective Tool-Augmented Scientific Equation Discovery with Large Language Models

智能体系统Agent 架构与控制循环

摘要

符号回归(SR)旨在从观测数据中发现分析方程,并在科学建模中发挥核心作用。虽然最近基于 大语言模型 (LLM) 的方法显示出前景,但它们面临两个限制。首先,它们缺乏揭示变量依赖性的数据分析机制,这降低了方程发现的效率。其次,大多数方法依赖于仅关注拟合误差的单目标评估。这种对结构复杂性和泛化性的忽视常常导致模型过早收敛到局部最优,从而限制了它们探索更广泛方程空间的能力。我们提出了多目标工具增强符号回归(MOT-SR),这是一个统一的框架,集成了外部分析工具来提取结构先验并指导方程生成,同时通过保持动态帕累托前沿的多目标评估模块联合优化准确性、复杂性和泛化性。 MOT-SR 采用两个协作 LLM 模块:元策略生成器(根据帕累托最优方程选择工具并综合结构优化策略)和方程生成器(相应地生成新的候选方程)。该系统以闭环方式运行,不断完善策略和方程结构。在 40 个标准任务中,MOT-SR 在准确性、泛化性和效率方面优于现有的 SR 方法。我们进一步在极端质量比螺旋 (EMRI) 轨道模型上验证了 MOT-SR,这是天基引力波天文学中的一个重要问题,其中小的局部误差会在长期演化过程中大量累积。所发现的可解释校正在保留配置上实现了最低的轨迹级积分误差。这些结果证明了 MOT-SR 在实现长期科学动态的可靠建模方面的潜力。