论文
HopRank:针对少样本节点分类的图的自监督 LLM 偏好调整
HopRank: Self-Supervised LLM Preference-Tuning on Graphs for Few-Shot Node Classification
摘要
文本属性图(TAG)上的节点分类是一项基本任务,在引文分析、社交网络和推荐系统中有着广泛的应用。当前基于 GNN 的方法存在浅层文本编码和对标记数据的严重依赖,限制了它们在标签稀缺环境中的有效性。虽然 大语言模型 (LLM) 通过深度语义推理自然地解决了文本理解差距,但现有的 LLM-for-graph 方法要么在训练过程中仍然需要丰富的标签,要么无法利用图拓扑中免费提供的丰富结构信号。我们的主要观察结果是,在许多现实世界的标签中,边主要在同质原则下连接相似的节点,这意味着图拓扑本质上编码了没有任何标签的类结构。基于这一见解,我们将节点分类重新表述为链路预测任务,并提出了 HopRank,这是一个完全自我监督的 LLM 标签调整框架。 HopRank 通过分层的基于跳跃的采样构建偏好数据,并采用自适应偏好学习来优先考虑信息丰富的训练信号,而无需任何类别标签。在推理时,通过预测节点与标记锚点的连接偏好来对节点进行分类,并采用自适应提前退出投票方案来提高效率。对三个 TAG 基准的实验表明,尽管使用零标记训练数据,HopRank 仍与完全监督的 GNN 匹配,并且大大优于先前的图 LLM 方法。