LLM 增强型 GNN 隐私安全吗？

大语言模型 (LLM) 最近通过用语义信息丰富节点表示来改进图神经网络 (GNN)，从而产生 LLM 增强型 GNN，从而实现显着的性能提升。然而，它们对隐私攻击的脆弱性（攻击者从模型输出中推断出敏感信息）在很大程度上仍未得到充分研究。为了弥补这一差距，我们通过一个统一的框架对 LLM 增强型 GNN 中的隐私风险进行了系统评估，该框架由五个阶段组成：（1）数据集准备，（2）受害者 模型训练，（3）隐私攻击，（4）风险评估和（5）防御分析。具体来说，我们对涵盖不同领域的六个真实世界文本归因图数据集进行了实验。我们考虑了针对三种基本威胁（即链接、标签和成员推理）的六种代表性隐私攻击方法，并通过将多个基于 LLM 的特征增强器与代表性 GNN 主干相结合来构造 42 种受害者模型配置。大量实验表明，尽管实用性有所提高，但与浅文本表示基线相比，LLM 增强型 GNN 始终表现出更容易受到隐私攻击的脆弱性。进一步的分析表明，语义丰富放大了嵌入空间中的链接、标签和成员资格相关信号，使它们更容易被推理攻击利用。最后，我们评估了差异隐私作为一种防御策略，并表明，虽然它可以部分减轻隐私风险，但它会带来显着的效用下降，突出了 LLM 增强图学习中基本的隐私与效用权衡。总的来说，这项工作提供了对 LLM 增强型 GNN 中隐私风险的全面理解，并为开发更安全、更值得信赖的图学习系统提供了实用的见解。