论文

迈向多标签图基础模型:从单向量表示学习到多语义基学习

Towards Multi-Label Graph Foundation Models: from Single-Vector Representation Learning to Multi-Semantic Basis Learning

模型训练预训练

摘要

多标签节点分类是图学习中一项重要而具有挑战性的任务,其中节点同时呈现多种语义。现有的多标签节点分类方法能有效建模多个标签,但只考虑域内场景,即模型需在同一图域内训练与测试,导致跨域泛化能力受限。近来,图基础模型(Graph Foundation Models, GFMs)已成为一种有前景的范式,用于学习跨多样图域与下游任务的可迁移图表示。然而,现有GFMs建立在单标签假设之上,把所有节点一律视为只含一类语义并嵌入到单一表示中。对多标签节点而言,这种表示实质上是用表示空间中的一个点去逼近多种语义,不可避免地造成语义纠缠,使同时判别多个标签变得困难。为解决这些局限,我们提出多语义基图基础模型(Multi-Semantic Basis Graph Foundation Model, MSB-GFM),一个面向跨域多标签节点分类的框架。具体地,我们引入多语义基表示学习范式,将每个多标签节点建模为语义基的自适应组合,从而为建模多种语义提供灵活的表示能力。此外,我们开发了带域对抗训练的语义-结构双通道架构,以实现有效的跨域知识迁移。大量实验证明了该模型的有效性。

迈向多标签图基础模型:从单向量表示学习到多语义基学习:论文配图
图1:我们提出的MSB-GFM的总体框架。