论文
LLM-SR-UQ保留竞争方程结构量化外推不确定性
Know When the Equation Is Wrong: Structural Uncertainty for LLM-Guided Symbolic Regression under Extrapolation
摘要
大型语言模型 (LLMs) 可以帮助从数据中发现数学方程,但大多数 LLM 引导的符号回归方法侧重于单个最佳方程,而不量化替代函数形式的不确定性。这是具有挑战性的,因为不同的方程可以相似地拟合观察到的数据,同时产生截然不同的外推。我们在 LLM-SRBench 数据集上的实验表明,标准共形预测区间在分布内可达到名义覆盖率,但在外推下经常失败。为了应对这一挑战,我们引入了 LLM-SR-UQ,这是一个保留竞争方程结构并利用它们的分歧来表征底层函数形式的不确定性的框架。我们扩展了标准的固定宽度共形预测方法来量化结构区间,该方法测量候选方程之间的分歧并确定预测区间应在何处扩大。大量的实验表明,我们的框架通过纳入结构性分歧,同时保持分布内覆盖率,显著改善了目标覆盖率的达成情况。当我们的方法应用于其他符号回归方法时,它也显示出良好的通用性。
