论文

能否用原子命题图实现可解释的自然语言推断?

Can We Do Interpretable NLI with Graphs Based on Atomic Propositions?

上下文与知识知识图谱

摘要

基于大模型的自然语言推断系统准确率高,但决策过程缺少可审计结构。本文研究能否仅凭可解释图证据完成推断。我们提出全图流水线,分类器从不直接处理输入文本:句子先拆为原子命题,经受约束解码转为ConceptNet三元组,每对句子表示为前提图、假设图和检索的ConceptNet子图,再输入微调的8亿参数语言模型。在SNLI上准确率89.7%,仅比相同训练的文本模型低1.9点。在ANLI上,R2与R3表现与已发表RoBERTa-large相当,分别48.0%对48.9%、44.9%对44.4%,但R1低16点,相比自身文本对应模型整体差距9—14点。我们称其为可解释性的代价,并说明来自表征局限而非数据约束。消融进一步表明图与文本互补,结合两者在SNLI上达到92.1%。

能否用原子命题图实现可解释的自然语言推断?:论文配图
图1:流水线四阶段。将句子对分解为原子命题,按受限JSON模式转为ConceptNet三元组,构建前提图P与假设图H;再从ConceptNet检索第三张图K,按K、P、H顺序序列化送入分类器。分类阶段不接收自然语言文本。