论文

通过图到表对齐的令人惊讶的简单有效的多域图基础模型

Surprisingly Simple and Effective Multi-Domain Graph Foundation Model through Graph-to-Table Alignment

模型训练预训练

摘要

图基础模型(GFM)已成为学习跨不同图域的可转移表示的有前途的范例。 GFM 的最新进展主要由两种范式主导:图神经网络和基于 大语言模型 (LLM) 的方法。然而,这些方法通常面临着有限数据训练和严重依赖文本属性之间的基本困境。表格基础模型(TFM)提供了一种潜在的替代方案,因为节点特征和表示可以自然地以表格形式组织。然而,如何使 TFM 能够有效地捕获图的结构信息仍有待探索。关键的挑战是学习图到表的对齐机制,以实现 TFM 的图结构理解。为了解决这个问题,我们提出了 GTAlign,这是一个用于无文本图基础模型的非常简单但有效的图到表对齐框架。具体来说,我们首先预训练一个图编码器,将不同的图映射到统一的潜在空间中,以捕获与领域无关的图表示。为了进一步弥合图拓扑和表格表示空间之间的差距,我们提出了社区引导的连续 预训练,其中来自图社区的伪标签用于构造少样本预测片段。最后,我们针对看不见的目标域调整图编码器并执行上下文推理。对五个基准数据集的大量实验表明,GTAlign 在节点和图分类方面显着优于最先进的基线,提供了简单、有效且无文本的 GFM 模型。代码将在接受后发布。