论文

图基础模型何时迁移?以数据为中心的理论

When Do Graph Foundation Models Transfer? A Data-Centric Theory

模型评测模型行为与机制分析

摘要

图基础模型(GFM)旨在跨不同图域重用单个主干,但它们的传输通常是不均匀的,并且可能表现出负传输。虽然大多数先前的工作通过架构或适应选择来改进传输,但我们提出了一个以数据为中心的问题:两个图域的哪些属性决定了固定表示模型改变其输出的程度?对密集图使用基于图子的连续限制,我们表明,对于基于集合和消息传递标记化,任何 Lipschitz 主干都允许将跨域输出移位显式分解为(i)图特定的有限样本近似项和(ii)捕获结构不匹配的内在的、重新标记不变的域差异。一个关键因素是位置编码(PE)稳定性:我们为频谱 PE 建立了稳定性保证,并强调了特征向量与基于子空间的 PE 的对比行为。合成图和真实图的实验验证了该理论,并将分解转化为 GFM 传输中数据管理的指导。