论文

OFAG:面向属性图聚类的统一基础模型

Towards One-for-All Foundation Model for Attributed Graph Clustering

模型训练预训练

摘要

属性图聚类旨在通过联合利用节点属性和图拓扑来发现节点组,但其无监督的性质使得模型选择和适应本身就很困难。现有方法通常为每个输入图训练和调整单独的模型,导致成本高昂且脆弱的管道通常无法跨具有不同特征空间、结构模式和属性结构相关性的图进行传输。在本文中,我们研究了一种一劳永逸的替代方案:单个模型是否可以训练一次并直接应用于不同的属性图,而无需图特定的训练、微调或超参数搜索?我们提出 OFAG,一种属性图聚类的基础模型。 OFAG 以先验数据拟合网络为基础,从在潜在集群、节点属性和图结构的广泛先验下生成的合成属性图学习可重用的聚类推理策略。为了处理跨图的不兼容特征空间,OFAG 采用与维度无关的信号图编码器,将每个特征通道视为图信号,并对其对共享图过滤器的响应进行建模。该模型使用超球形聚类目标进行训练,在推理时在单次前向传递中生成聚类友好的节点表示。在 10 个数据集上,一个冻结的 OFAG 模型在 NMI、ACC、ARI 和 F1 上实现了最佳平均性能和平均排名,同时在总共 12.43 分钟内完成所有 10 个数据集——比第二快的基线快 6 倍以上,比聚类质量第二好的基线快近 28 倍。我们的代码和预训练的检查点可在 https://github.com/Cloudy1225/OFAG, 上获取,允许从业者直接将 OFAG 应用于他们自己的属性图数据集,而无需额外的训练或调整。