公共子结构可以转移吗？具有神经向量束的黎曼图基础模型

基础模型通过预训练适应范式引发了一场革命，最近的努力将这一成功扩展到了图表。与其他模式不同，图包含丰富的结构模式，但它们的结构可转移性仍然知之甚少。先前的研究考虑了离散领域中的公共子结构，我们受到一个基本问题的推动：公共子结构是否可转移？基本理论在很大程度上尚未得到充分探索。在这项工作中，我们转向通过功能行为的视角来学习可转移结构。理论上，我们将可转移子结构连接到表示空间的内在几何结构。然而，描述这种内在几何形状的方法却很少被触及。基于黎曼几何，我们开发了一种称为神经向量束的图内在几何学习框架，它可以使用局部坐标解析内在几何。在此基础上，我们设计了 GAUGE，一种可预训练的神经架构，用于构建向量束，展平几何兼容的局部坐标，以及新的狄利克雷损失，它也可以测量传输工作量。我们凭经验验证了其在零样本链接预测和图同构等挑战性任务中的卓越表现力。