当 2D 任务遇到 1D 序列化时：结构化任务中的序列化摩擦

在LLM时代，许多符号和结构化问题通过一维文本序列化呈现给模型。然而，一些这样的问题本质上是二维的：它们的相关关系，例如行列对应或空间邻接，是由二维布局中的位置而不是顺序来定义的。这就提出了一个代表性问题：在一维序列中保留相同的符号条目是否也保留了计算所需的关系结构？我们通过序列化摩擦的视角来研究这个问题：表示不匹配，其中相同的底层任务实例和条目仍然存在，但依赖于布局的关系在一维序列化下变得隐含。该研究使用了三个任务的受控综合测试平台：矩阵转置、康威生命游戏和 LU 分解。在每个任务中，相同的实例要么以 1D 文本序列化的形式呈现，要么以呈现为图像的本机 2D 布局呈现。在这个测试台上，随着任务大小的增加，一维序列化的性能下降得更加剧烈，并且序列化下的错误表现出空间结构化模式，这表明这种表示选择在我们的测试台中是重要的。为了进一步解释这些结果，我们添加了补充分析，包括视觉内探针以及混合训练转置设置下两个输入呈现的额外比较。这些发现表明，对于布局定义的任务，减少一维序列化的输入并不是一种中立的表示选择。