论文

DeepTable:用于层次表理解的结构注意力偏差和树路径编码

DeepTable: Structural Attention Biases and Tree Path Encoding for Hierarchical Table Understanding

模型架构Transformer

摘要

大语言模型(LLM)在表理解方面表现出了强大的性能。然而,它们通常将表内容和标题处理为线性化标记序列。这种表示削弱了由多级行和列标题编码的二维和层次结构关系。现有的参数高效的 微调 方法合并了基本的行和列信息,但没有显式捕获由分层表头引起的丰富的结构依赖性。我们提出了 DeepTable,一种使用 LLM 进行表理解的结构感知方法。 DeepTable 由两个互补的组件组成。结构注意力偏差(SAB)将可学习的偏差引入注意力 logits 中,以明确表示表标记对是否共享同一行或列。树路径编码 (TPE) 使用其行和列标题的祖先路径表示每个表标记,保留其在多级表结构中的位置。我们将 DeepTable 与 TableLoRA 集成(He et al., 2025),将结构信息注入到参数高效的自适应中。在三个 LLM 主干上,DeepTable 在三个表问答基准上持续改进相应的 TableLoRA 基线,在 HiTab 上平均提高 7.42 分,在 WikiTQ 上平均提高 3.23 分,在 FeTaQA 上平均提高 2.01 BLEU 点。这些结果证明了所提出的跨不同 LLM 主干的结构偏差的有效性。