Acacia：仅用 Web 图训练具备上下文学习的图基础模型

我们介绍 Acacia，一种在网络图上训练的图基础模型。 Acacia (i) 支持任意特征维度和语义，无需额外训练，(ii) 支持广泛的任务，包括节点分类、链接预测、节点聚类和图生成，无需额外训练，(iii) 具有上下文学习能力，(iv) 不依赖于预训练的 LLM。特别是，现有的图基础模型通常需要训练额外的分类头或特征投影层来适应新的图或新的标签，而 Acacia 则不需要。此外，现有的图基础模型通常通过与预训练的 LLM 拼接在一起来获得其功能，而 Acacia 则仅使用 Common Crawl 网络图从头开始训练。这也是一个重要的结果，因为它提供了证据表明图模型可以像大语言模型一样从头开始获得新兴能力。