GEAR：表格基础模型两阶段 蒸馏 的生成扩展和真实锚定

表格基础模型 (TFM) 通过上下文学习实现了强大的性能，但上下文相关的推理会带来大量的延迟和内存成本，阻碍大规模部署。我们提出了 GEAR（\emph{生成扩展和真实锚定}），这是一种模块化的两阶段框架，它将 TFM 提炼成轻量级 MLP 或基于树的预测器，可以部署在商用 CPU 上。第 1 阶段仅使用合成协变量作为教师查询位置，并在软 TFM 目标上训练学生，将覆盖范围扩展到观察到的行之外。第二阶段使用真实标签和不合时宜的教师预测将学生重新锚定到目标分布，这避免了自标记泄漏。我们进一步得出一个风险证书，描述生成的查询量和生成器保真度之间的权衡。在TALENT和TabArena上的实验证明了GEAR的广泛适用性。两阶段 MLP 在二元任务上优于监督 MLP 1.81--2.00 AUC 点，在多类任务上优于 1.19--1.35 点，比纯真实数据 蒸馏 分别获得 1.76--2.19 和 2.09--2.40 点的额外收益。在二元任务上，增益也转移到 LightGBM 和 XGBoost，并且所有三个学生家庭的平均 AUC 均优于 CatBoost（最强的非 TFM 基线）。消融显示出除了更长的训练或替代热启动之外的收益，分阶段比混合优化更高的稳定性，以及随着查询量的增加依赖于生成器的收益递减。最后，GEAR 将中值推理时间减少了 57--2866 倍，将峰值预测内存减少了 1.9--3.3 倍，同时保留了比匹配的监督基线更高的 AUC。