TFM-Retouche：用于表格基础模型的轻量级输入空间适配器

表格基础模型 (TFM)，例如 TabPFN-2.6、TabICLv2、ConTextTab、Mitra、LimiX 和 TabDPT，通过上下文学习实现了强大的零样本性能，但它们的归纳偏差在推理时保持固定。将预训练的 TFM 适应特定数据集或任务通常需要完整的 微调（计算成本较高）或参数高效的调整方法 (PEFT)（例如 LoRA），该方法必须根据每个 TFM 的内部架构进行定制。此外，关于权重空间 微调 是否提高准确性或校准的证据是混合的 \citep{tanna_exploring_2026,rubachev_finetuning_2025}。我们引入了 TFM-Retouche，这是一种轻量级输入空间残差适配器，其设计与冻结的 TFM 主干架构无关。 TFM-Retouche 在输入空间中学习一个小的残差校正，以将输入数据与预训练模型的归纳偏差对齐。该适配器通过冻结的 TFM 进行端到端训练，并使用 后训练 身份防护，只要适配对保留验证无帮助，该身份防护就会回退到未修改的 TFM。在 TabArena-Lite（涵盖二元分类、多类分类和回归的 51 个数据集）上，TabICLv2-Retouche（在 TabICLv2 上实例化的框架）是排行榜上排名靠前的方法，具有轻量的每任务调整和集成，将聚合 Elo 比冻结的 TabICLv2 基础提高了 +56，并且在预测质量与训练和推理时间的比较中处于 Pareto 前沿。