论文

通过增强负采样提升知识图谱基础模型

Boosting Knowledge Graph Foundation Models via Enhanced Negative Sampling

模型训练预训练

摘要

知识图谱(KG)已成为问答和推荐系统等众多下游任务的核心骨干。然而尽管如此,KG往往非常不完整。为了在与预训练关系词表不同的未见KG上执行零样本知识图谱补全,KG基础模型(KGFM)受到了广泛关注。现有KGFM通常使用随机负三元组进行训练,即通过用随机实体替换正三元组的头实体或尾实体来构造。然而,这些负三元组的构造质量往往有限,为KGFM训练提供的监督信号较弱。本文提出一种简单而有效的自适应负采样方法KMAS,用于增强现有KGFM。KMAS利用现有KGFM关系编码器生成的更新后关系嵌入来构造困难负三元组。为了在训练过程中进一步自适应地对齐KGFM不断演进的能力,KMAS在整个训练过程中动态调整困难负三元组的比例:在warmup阶段之后,先线性增加该比例,随后再线性降低。实验在44个数据集上广泛开展。实验结果表明,所提负采样方法能够增强多种SOTA KGFM,且无需过多的额外时间或内存开销。