论文

针对大规模表格数据的可扩展 TabPFN 推理的平衡自适应原型选择

Balanced Adaptive Prototype Selection for Scalable TabPFN Inference on Large-Scale Tabular Data

上下文与知识上下文工程

摘要

预训练的表格基础模型表现出强大的预测能力;然而,它们在大规模数据集上的应用仍然受到有限的推理上下文的限制。本文介绍了平衡自适应原型选择 (BAPS),这是一个为可扩展 TabPFN 推理构建紧凑、信息保留上下文的框架。在不修改或重新训练预训练模型的情况下,BAPS 共同保留了代表性结构、信息决策边界、局部密度、类平衡和特征空间多样性。在百万行 HIGGS 和 SUSY 数据集上的实验表明,512 个原型保留了强大的预测性能和可靠的校准,相当于大约 1,953 倍的上下文压缩。所有实验均在具有 16 GB RAM 且无 GPU 加速的 Intel Core i7 CPU 上进行。这些发现建立了有效的上下文构建作为将预训练的表格基础模型扩展到百万级数据集的实用机制。