论文

NxN E-valuation:基于共形CRT零假设的假设认证

NxN E-valuation: Hypothesis Certification via a Conformal CRT Null

模型推理推理验证与自校正

摘要

我们提出NxN E-valuation,一种便捷的基于e值的假设认证算法,只要拥有足够大的数据集,无需构建任何特定案例的认证程序(例如构造专门的零假设)即可验证一个假设。该方法尤其适合基于LLM的探索系统:LLM非常擅长提出假设,却严重受幻觉之苦;这种幻觉使我们无法直接采信LLM输出,而现有补救手段各有不足。最常见的方案包括让LLM自我验证或自我纠正(循环验证)与留出测试(其中虚假假设仍可能凭伪相关通过),以及引言中详述的其他补救手段。为解决这一问题,NxN E-valuation利用天然存在的大训练集,让不同样本互为零假设。这一设计直接实现了一个条件随机化检验(CRT)来认证每个假设。只要LLM的生成是适用于每个个体样本的假设,该方法至少可以作为LLM循环验证与留出数据测试的普适更优替代。