论文
FlexTab：一种灵活的编码器-解码器架构，用于跨不同表格任务的上下文学习
FlexTab: A Flexible Encoder-Decoder Architecture for In-Context Learning Across Diverse Tabular Tasks
摘要
我们引入了 FlexTab，这是一种灵活的编码器-解码器架构，用于表格数据的上下文学习，它将单个任务无关的编码器与一组特定于任务的解码器配对。与现有的表格上下文学习器将特征表示与特定预测目标纠缠在一起不同，我们的设计产生与目标无关的行嵌入，可以在表本机上下文学习设置中的各种下游任务中利用。我们在六个不同的问题上展示了这种灵活性：关系数据库中的分类、回归、异常检测、聚类、实体匹配和实体分类。编码器和特定于任务的解码器都在大量真实世界、未标记的表格上进行训练。 FlexTab 在分类、回归、异常检测和实体匹配方面实现了最先进的性能，同时在关系设置中的实体分类方面与专用模型保持竞争。这些结果表明，单个共享编码器与特定于任务的解码器配对，可以作为各种表格预测问题的有效通用主干。推理代码和检查点将在 https://github.com/SAP-samples/flextab 上公开。