从表格到单元格：借助TABALIGN的注意力实现更好的推理

LLM对结构化表格的多步推理之所以失败，是因为规划与执行之间缺乏显式的单元格锚定契约。现有方法将规划器束缚于与表格置换不变性相悖的从左到右分解，且仅依据生成内容为中间状态打分，忽视了单元格锚定。我们开展的先导研究表明，扩散语言模型（DLM）在表格上产生的单元格注意力比自回归模型更符合人类对齐且对置换更稳定，在行重排下注意力AUROC变异性中位数降低40.2%。受此启发，我们提出TABALIGN，一个将该契约落地为可操作的规划式表格推理框架。TABALIGN将一个掩码DLM规划器——其双向去噪以二值单元格掩码的形式发出规划步骤——与TABATTN配对，后者是一个在1,600条人工核验的注意力标准上训练的轻量验证器，依据每步注意力与规划指定掩码的重叠程度为其打分。在覆盖表格问答与事实核查的八个基准上，TABALIGN在相当的8B级规模下将平均准确率比最强开源基线提升15.76个百分点，同骨干消融实验将其中2.87个百分点归因于在固定推理器上DLM规划器相对AR规划器的贡献。更干净的DLM规划还将下游推理执行加速44.64%。