论文

LogicPoison:针对图检索增强生成的逻辑关系攻击

LogicPoison: Logical Attacks on Graph Retrieval-Augmented Generation

模型评测安全与风险评测

摘要

GraphRAG通过结构化知识图为回答提供依据,增强大模型推理。社区发现和关系过滤使其对文本投毒、提示注入等传统RAG攻击具有一定抵抗力。然而,本文发现安全性依赖底层图的拓扑完整性:即使不改变表面文本语义,隐式破坏逻辑连接也可影响系统。研究提出LogicPoison,针对逻辑推理而非直接注入虚假内容,通过保持实体类型的交换,扰动全局逻辑枢纽与特定查询的推理桥接关系,破坏整体连通性或切断多跳路径。方法保留文本表面的合理性,却把原本有效的推理导向死路。多个基准实验中,LogicPoison绕过GraphRAG防护、明显降低性能,在所比较的有效性与隐蔽性指标上优于基线。代码:https://github.com/Jord8061/logicPoison。