论文

ProgramTab:通过编程范式增强 LLM 的表推理

ProgramTab: Boosting Table Reasoning of LLMs via Programmatic Paradigm

模型推理推理策略与问题分解

摘要

大语言模型(LLM)基于表格的推理需要基于自然语言问题和结构化表格数据进行推理,受到了广泛的关注。然而,一系列问题仍然制约着该任务的应用。由于长文本建模的困难以及 LLM 输入长度的限制,以前的方法在面对大型表时性能会显着下降。使用文本转SQL的方法可以高效地从表中提取关键信息并生成更小的子表。然而,表格数据,尤其是Web表,通常缺乏必要的结构和一致性,使得它们不适合使用SQL查询执行数学逻辑运算。我们提出了ProgramTab框架,它指导LLM采用上下文学习来使用Python代码执行表格数据预处理,以及通过行和列提取和SQL生成来进行重要内容提取。表推理数据集上的实验结果表明,ProgramTab 框架有效地处理基于表的推理任务,并且优于所有基于 LLM 的基线。