论文

ARASH:面向表格预测的自适应检索与样本选择

ARASH: Adaptive Retrieval And Shot Selection for Tabular Prediction

上下文与知识检索增强

摘要

表格预测是众多应用中的关键任务。大语言模型近来的成功催生了多种将其适配到表格领域的方法。一种流行策略是训练或微调专门的表格基础模型(TFM),如 TabPFN。然而 TFM 需要大量计算资源,频繁重训练往往不切实际。上下文学习(ICL),特别是少样本提示,提供了资源高效的性能提升替代方案。然而,对表格数据而言,识别最相关的行作为样本仍是挑战。本文提出 ARASH(Adaptive, query-specific Retrieval And Shot selection),通过在训练集内基于局部邻域分析选择最优样本来提升 TFM 效率。结果表明,ARASH 将 TabPFN 的提示长度与内存占用分别降低 1261.5 倍与 2.56 倍,同时保持相当的准确率。

ARASH:面向表格预测的自适应检索与样本选择:论文配图
图3:各基线模型与数据集之间的两两胜率比较。胜的定义是在给定数据集上取得更高的分类准确率。