论文

Chimaera:用于跨任务和跨数据集图学习的混合图专家架构

Chimaera: A Mixture-of-Graph-Experts Architecture for Cross-Task and Cross-Dataset Graph Learning

摘要

由于图的不规则结构以及嵌入的不同大小和特征,设计图的基础模型具有挑战性。 Chimaera 将专家混合与图基础模型 (GFM) 集成。它集成了不同的 GFM 架构,例如图提示和线性 GNN 模型。 大语言模型 用于生成嵌入,专家可以按照不同的策略、GFM、嵌入等进行训练和组合。此外,Chimaera 扩展了现有的线性 GNN,除了节点级任务之外还支持链接级和图级任务。使用六个基准文本属性图数据集对节点、链接和图分类任务的相同任务和跨任务实验进行实证分析。实验证明了 Chimaera 的有效性及其跨任务和数据集传输的能力。进一步的见解包括需要使用大型和小型语言模型为专家生成嵌入、简单但有效的线性 GNN 的强大跨任务可转移性,以及仅使用少量样本即可提供强大的结果。