不确定性量化方法自动设计的进化搜索

大语言模型 的不确定性量化（UQ）方法主要是基于领域知识和启发式手工设计的，限制了其可扩展性和通用性。我们应用 LLM 支持的进化搜索来自动发现以 Python 程序表示的无监督 UQ 方法。在原子声明验证任务中，我们改进的方法优于强大的手动设计基线，在 9 个数据集上实现了高达 6.7% 的相对 ROC-AUC 改进，同时稳健地推广了分布外的情况。定性分析表明，不同的 LLM 采用定性不同的进化策略：Claude 模型始终设计高特征数线性估计器，而 Gpt-oss-120B 则倾向于更简单、更可解释的位置加权方案。令人惊讶的是，只有 Sonnet 4.5 和 Opus 4.5 可靠地利用增加的方法复杂性来提高性能 - Opus 4.6 相对于其前身表现出意想不到的退化。总的来说，我们的结果表明，LLM 支持的进化搜索是自动化、可解释的幻觉检测器设计的一个有前途的范例。