论文
当表格基础模型遇见策略性表格数据:一种先验对齐方法
When Tabular Foundation Models Meet Strategic Tabular Data: A Prior Alignment Approach
摘要
基于预训练先验数据拟合网络(PFN)的表格基础模型在多样表格任务上展现出强泛化能力,但它们通常为非策略性设定而设计,其中数据分布与已部署的分类器无关。然而在许多真实决策场景中,个体可能在模型部署后策略性地修改自身特征以获得有利结果,引发部署后的分布偏移。本文研究PFN式表格基础模型能否泛化到这类策略性表格数据。我们证明,策略性操纵导致预训练学到的非策略先验与操纵后的策略先验不匹配,进而产生系统性预测偏差。为解决该问题,我们提出策略先验数据拟合网络(SPN),一个推理时的策略感知框架,无需重训即可使表格基础模型适配策略性环境。SPN构造策略性上下文示例来近似操纵后的输入,并将PFN预测与由此诱导的策略分布对齐。在真实与合成表格数据集上的实验表明,与表格基础模型及经典表格方法相比,SPN在策略性操纵下持续提升鲁棒性与预测性能。
