论文
TAROT:针对少镜头表格学习的 LLM 先验图的任务自适应细化
TAROT: Task-Adaptive Refinement of LLM-prior Graphs for Few-shot Tabular Learning
摘要
少镜头表格学习为现实世界的应用提供了一种经济有效的方法,在这些应用中,注释成本很高,并且为新任务收集足够的样本很困难。现有的传统方法和基于 LLM 的方法已在少数场景中证明了有效性。然而,传统方法需要对未标记或生成的数据进行额外的训练,这会产生大量的计算开销。此外,基于 LLM 的方法直接将原始表格数据输入 LLM 会引发隐私和合规性问题。更重要的是,这两种范式在很大程度上忽略了特征之间的语义关系,这为构建语义图提供了结构和语义先验。语义图对于在少数场景中建模有意义的特征交互至关重要。在本文中,我们提出了 TAROT,这是一种基于 GNN 的框架,通过根据先验构造和细化任务自适应语义图来对结构和语义先验进行编码,从而提高少样本表格学习中的预测性能。 TAROT 首先通过统一语义表格节点编码器 (USTNE) 将异构表格数据编码为统一的节点语义表示。然后,提示LLM根据任务描述和特征名称推断特征之间的语义关系,构建语义图。为了减轻 LLM 幻觉引入的结构噪声,TAROT 引入了任务自适应语义图细化,可以修剪虚假或与任务无关的边缘,并添加缺失的任务相关边缘,从而使图结构与下游目标保持一致。最后,GNN 在细化图上执行消息传递,以捕获与任务相关的语义依赖关系以进行预测。对各种小样本表格学习基准的大量实验证明了 TAROT 的卓越性能,使其成为该领域最先进的方法。