论文
EP-Mem:适用于具有社交关系意识的 LLM Agent的弹性隐私记忆
EP-Mem: Elastic Privacy Memory for Social Relationship-Aware LLM Agents
摘要
大语言模型 (LLM) Agent在充当人类-Agent-人类通信中的代表时面临严重的隐私风险。为了防止此类违规行为,Agent必须了解用户的社交关系并遵守与上下文相关的社交信息披露边界。目前对Agent记忆隐私的研究主要集中在瞬时交互上,而长期关系泄露问题尚未得到探索。在本文中,我们提出了 EP-Mem,一种弹性隐私记忆架构,它将隐私重新定义为跨社会角色的用户拥有的边界控制。 EP-Mem 引入了 (1) 由用户可配置的隐私策略驱动的词元级记忆,该隐私策略对人员和事件进行分层,将域级默认循环规则与事实级白名单/黑名单例外相结合; (2) 具有隐私引擎的可插拔 sidecar,可将披露控制与跨摘要、细节和边界粒度的记忆保持一致,并在整个生成、存储和检索过程中强制实施。据我们所知,我们构建了 EP-Bench,这是第一个长期多方基准,具有跨会话相关事件,用于政策条件关系披露。实验表明,EP-Mem 实现了 94.0% 的隐私分类准确率,将公开许可判断从 22% 提高到 68%,并将隐私泄漏减少了 75.6%,同时保持了检索性能和跨基准泛化能力。