论文

非表格任务的表格基础模型

Tabular foundation models for non-tabular tasks

模型评测模型能力评测

摘要

表格基础模型(TFM)最近已成为表格数据机器学习的一种有前途的范例,提供了跨数据集泛化的能力,而无需进行特定于任务的训练。由于许多机器学习数据集可以表示为表格,这就提出了一个问题:TFM 功能是否超出了传统上视为表格的任务范围?我们通过使用 TabPFN v3 解决三个非表格分类问题来解决这个问题:MNIST 上的手写数字识别、法语和德语单词的语言识别以及 Tiny ImageNet 上的图像分类。在每种情况下,原始数据都表示为表的行,并且分类被公式化为丢失标签的预测。我们根据提供给预训练模型的上下文样本数量来评估性能,无需额外训练或 微调。尽管无法显式访问表征数据的空间或顺序结构,但 TabPFN v3 在某些情况下所达到的精度可与专门针对相应任务的模型或方法相媲美。