论文
ARASH:面向表格预测的自适应检索与样本选择
ARASH: Adaptive Retrieval And Shot Selection for Tabular Prediction
摘要
表格预测是众多应用中的关键任务。大语言模型近来的成功催生了多种将其适配到表格领域的方法。一种流行策略是训练或微调专门的表格基础模型(TFM),如 TabPFN。然而 TFM 需要大量计算资源,频繁重训练往往不切实际。上下文学习(ICL),特别是少样本提示,提供了资源高效的性能提升替代方案。然而,对表格数据而言,识别最相关的行作为样本仍是挑战。本文提出 ARASH(Adaptive, query-specific Retrieval And Shot selection),通过在训练集内基于局部邻域分析选择最优样本来提升 TFM 效率。结果表明,ARASH 将 TabPFN 的提示长度与内存占用分别降低 1261.5 倍与 2.56 倍,同时保持相当的准确率。
