论文
将 LLM 模拟器评估为差分私有数据生成器
Evaluating LLM Simulators as Differentially Private Data Generators
摘要
基于 LLM 的模拟器为生成复杂的合成数据提供了一条有前途的途径，而传统的差分隐私 (DP) 方法难以处理高维用户配置文件。但是 LLM 能否忠实地从受 DP 保护的输入再现统计分布？我们使用 PersonaLedger 来评估这一点，PersonaLedger 是一种代理金融模拟器，其种子是来自真实用户统计数据的 DP 合成角色。我们发现 PersonaLedger 实现了有希望的欺诈检测效用（AUC 0.70，epsilon=1），但由于系统性 LLM 偏差而表现出显着的分布漂移——学习先验覆盖了时间和人口统计特征的输入统计数据。必须先解决这些故障模式，然后基于 LLM 的方法才能处理更丰富的用户表示，否则它们可能会表现出色。