面向零样本逻辑规则归纳的基础模型

归纳逻辑编程（ILP）从数据学习可解释的逻辑规则。既有方法是transductive的：所学参数绑定特定谓词，每个新任务都需重训。我们提出Neural Rule Inducer（NRI）：一个面向零样本规则归纳的预训练模型。NRI不以字面身份编码，而用领域无关的统计性质（类条件比率、熵、共现）表示文字，可跨变量身份与数量泛化而无需重训。模型由统计编码器与并行槽式解码器组成：并行解码保持逻辑析取的置换不变性——自回归解码器则会施加任意的子句顺序。乘积T-范数松弛使规则执行可微，允许仅在预测准确率上端到端训练。我们在规则恢复、标签噪声与伪相关鲁棒性、以及向真实世界基准的零样本迁移上评估NRI。我们相信这项工作为符号推理基础模型开启可能。代码与参考检查点见GitHub。