论文

针对GraphRAG系统的查询高效Agentic图提取攻击

Query-Efficient Agentic Graph Extraction Attacks on GraphRAG Systems

模型评测安全与风险评测

摘要

基于图的检索增强生成(GraphRAG)系统在文档集合上构建知识图以支持多跳推理。虽然之前的工作表明 GraphRAG 响应可能会泄漏检索到的子图,但在实际查询预算下,隐藏图结构的查询高效重建的可行性仍未得到探索。我们研究了预算受限的黑盒设置,其中对手自适应地查询系统以窃取其潜在实体关系图。我们提出了 AGEA(代理图提取攻击),这是一个利用新颖性引导的探索-利用策略、外部图内存模块以及将轻量级发现与基于 LLM 的过滤相结合的两阶段图提取管道的框架。我们在 Microsoft-GraphRAG 和 LightRAG 系统上的医疗、农业和文学数据集上评估 AGEA。在相同的查询预算下,AGEA 显着优于之前的攻击基线,恢复高达 90% 的实体和关系,同时保持高精度。这些结果表明,即使在严格的查询限制下,现代 GraphRAG 系统也极易受到结构化、代理提取攻击。

针对GraphRAG系统的查询高效Agentic图提取攻击
图1:所提出的智能体图提取攻击。