论文
MissDiag:KGQA 和 KG-RAG 中不完全知识鲁棒性的诊断评估
MissDiag: Diagnostic Evaluation of Incomplete-Knowledge Robustness in KGQA and KG-RAG
摘要
知识图问答(KGQA)和基于知识图的检索增强生成(KG-RAG)旨在在显式图证据中提供答案,但现实世界的知识图往往稀疏、过时且不完整。现有的稳健性评估通常报告证据被删除或扰乱后答案质量的总体变化,这衡量了对不完全支持的敏感性,但未明确说明降级的来源:相同的分数变化可能会混淆缺失证据的类型、评估系统的响应以及答案匹配协议的敏感性。为了解决这一差距,我们提出了 \textbf{MissDiag},一种用于 KGQA 和 KG-RAG 中不完全知识鲁棒性的诊断评估框架。 MissDiag 保持问题和标准答案固定,同时对基准提供的支持图应用结构类型缺失干预措施,实现配对比较,通过证据类型、系统响应和评估协议分解稳健性变化,而不是将其减少到单个总分下降。跨多个系统系列的实验表明,不完全知识的鲁棒性更好地理解为一种类型化的退化现象,而不是一种统一的属性:答案相邻的证据丢失会产生最大的观察到的退化,源上下文删除通常是中性的并且可能是有益的,语义答案匹配会改变绝对分数,同时保留主要的类型化退化模式。通过将总体稳健性测量转化为类型化诊断归因,MissDiag 为在不完整知识下比较、诊断和压力测试 KGQA 和 KG-RAG 系统提供了更可解释的基础。