论文

LLM-SR-UQ保留竞争方程结构量化外推不确定性

Know When the Equation Is Wrong: Structural Uncertainty for LLM-Guided Symbolic Regression under Extrapolation

应用与实践模型评测鲁棒性、公平性与可信度评测科学研究

摘要

大型语言模型 (LLMs) 可以帮助从数据中发现数学方程,但大多数 LLM 引导的符号回归方法侧重于单个最佳方程,而不量化替代函数形式的不确定性。这是具有挑战性的,因为不同的方程可以相似地拟合观察到的数据,同时产生截然不同的外推。我们在 LLM-SRBench 数据集上的实验表明,标准共形预测区间在分布内可达到名义覆盖率,但在外推下经常失败。为了应对这一挑战,我们引入了 LLM-SR-UQ,这是一个保留竞争方程结构并利用它们的分歧来表征底层函数形式的不确定性的框架。我们扩展了标准的固定宽度共形预测方法来量化结构区间,该方法测量候选方程之间的分歧并确定预测区间应在何处扩大。大量的实验表明,我们的框架通过纳入结构性分歧,同时保持分布内覆盖率,显著改善了目标覆盖率的达成情况。当我们的方法应用于其他符号回归方法时,它也显示出良好的通用性。

LLM-SR-UQ保留竞争方程结构量化外推不确定性:论文配图
图1:LLM-SR-UQ概览。提出候选方程(A),拟合后将其保留在加权缓冲区(B)。可选评价器引导后续提案,但不修改缓冲区(C)。将保留方程组合用于预测,其分歧则用于构建经过保形校准的结构区间(D)。