论文

是什么让图统一?图基础模型的原理和生成滑动窗口 Transformer

What Makes Graph Unified? Principles and Generative Sliding-Window Transformer for Graph Foundation Models

模型训练预训练

摘要

图基础模型(GFM)最近成为通用图学习的一种有前途的范例,旨在学习可跨不同图域和下游任务泛化的可重用知识,从而减少对特定模型开发的需求。实现这一目标需要协调跨域的节点特征、图结构和语义信息的实质性异质性。其中,异构节点特征构成了基本的输入级障碍,因为它们的维度和语义在数据集中存在很大差异。现有的研究通常将异构节点特征投影或映射到固定维度的空间中,通常隐含地将维度均匀性与有效的特征统一等同起来。然而,维度一致性本身并不能确保统一的特征保留信息语义并捕获可以支持跨领域知识转移的可转移模式。为了弥合这一概念差距,我们提炼出跨域图特征统一的四个需求:形式一致性、跨域可转移性、信息保存和主干兼容性。在这些原则的指导下,我们提出了 SliGFM,这是一种基于拓扑感知滑动窗口特征编码和生成重建构建的图基础模型。 SliGFM 按拓扑平滑度对特征维度进行排序,并使用共享滑动窗口特征编码器扫描重新排序的特征,将异构特征转换为有序固定维度特征标记的公共空间。该公式使平滑感知的 Transformer 能够捕获每个节点内特征标记之间的可转移关系模式,而生成重建目标鼓励保留原始特征信息。