BLADE：用于校准知识图完成的蒸馏 LLM 正则化

尽管许多下游应用程序需要校准概率，但知识图完成模型可以优化排名。我们提出了 BLADE，一种变分模型，它将潜在真理与图形记录分开，并将离线语言模型判断提炼成冻结的教师正则化器。 LLM 在推理过程中缺席。后验样本提供预测概率和认知不确定性，而紧凑教师仍然仅作为可选分类因素可用。在五个基准测试中，BLADE 在通用排名协议下保持竞争力，并将自适应 ECE 相对于深度集成的宏观平均降低了 60.1%，相对于温度缩放的 RotatE 降低了 78.1%。在相同的 FB15k-237 候选集上，BLADE 还比验证选择的直方图分箱和匹配的生成 ComplEx2 模型改进了 ECE、Brier 评分和 NLL，这些改进在预先指定的几乎未命中池中持续存在。在受控注射缺失的情况下，完整分类评分的平均 AUC-PR 为 0.863，而其最强的非教师变体的平均 AUC-PR 为 0.805。泄漏压力测试表明，一致的语义很重要，但它们不能排除在 LLM 预训练期间获得的知识。因此，我们仅对声明的候选分布进行校准，而不对所有未观察到的三元组进行校准。