论文

可屏蔽性指数:预测预训练语言模型中的任务目标对齐

The Maskability Index: Predicting Task-Objective Alignment in Pretrained Language Models

模型评测评测方法与指标

摘要

T5、BERT等大规模预训练语言模型已经展现出强大的结构化知识生成能力。然而,它们的表现取决于提示策略与预训练期间使用的目标的匹配程度。我们引入了掩蔽性指数(MI),这是一种定量指标,用于估计知识关系是否更适合少样本生成中的掩蔽式提示或前缀式提示。 MI 是根据屏蔽模板和未屏蔽模板之间的 DepthRank 分数差异计算得出的,提供了目标模板对齐的原则性衡量标准。我们根据 ATOMIC2020 知识库完成基准的一组不同关系评估 MI,并表明它与下游生成性能呈正相关。这些结果表明,MI 可以帮助选择适当的提示模板和适应策略,以从预训练的语言模型中提取关系知识,特别是在资源匮乏的环境中。