通过元特征解释表格基础模型的差异

随着表格基础模型的兴起以及传统模型在许多任务上仍然表现良好，为表格数据集选择正确的模型仍然很困难。我们研究数据集元特征是否可以解释表格预测任务上模型系列之间的性能差距。使用 TabArena 基准测试结果，我们分析数据集级别的性能差距，并将其与模型无关的元特征相关联。经过错误发现控制的严格统计测试后，我们发现（1）对于神经网络与树间隙，没有元特征能够幸免于错误发现控制，（2）对于非基础模型与基础模型间隙，一种关联是稳健的，但在留一数据集预测中测试时不能泛化，（3）对于 TabICLv2 与 TabPFN-2.6，一种稳健的关联也可以改善保留预测。此外，我们进行了留一数据集分析，发现元特征预测器无法在简单的基线上进行有意义的改进。总的来说，我们的结果显示了表格数据集的异质性，并且全局元特征方法不够强大，无法对 51 个 TabArena 数据集提供解释。