论文
LLM 图重建中的失真谱理论:锐界和经验表征
A Spectral Theory of Distortion in LLM Graph Reconstruction: Sharp Bounds and Empirical Characterization
摘要
通过语言模型对图重建的评估通常报告原始图和重建图之间的单个聚合距离。我们证明,对于拉普拉斯谱之间的 Wasserstein 距离,这样的总结由两个边计数括起来,即来自下方的边数的净变化和来自上方的对称差,每个按 $2/n$ 缩放,其中 $n$ 是顶点数。括号很尖锐:当重建仅添加边缘或仅删除边缘时,它的两端完全重合,并且在该类上,距离是重新缩放的边缘计数,没有说明哪些边缘发生了变化。当两端不同时,仅当重建发明和丢失边缘时,距离和下端之间的残差才为正,这将其变成可仅根据报告的摘要计算的混合编辑证书。我们在 45 个合成图上的三个开放权重模型生成的 135 个重建中描述了这些状态。 77 个输出是单边的,29 个混合输出的 $X > 0$,包括精确保留边计数而同时发明和丢失 19 个边的情况。这三个模型在编辑策略上有所不同,从复制输入到以大量幻觉为代价尝试完成,这是聚合扭曲无法揭示的区别。