MGI：成员与生成推理

随着生成模型越来越多地生成与人类创建的内容无法区分的样本，确定给定数据点是模型自然训练集的一部分还是由模型本身生成变得困难，特别是当模型记忆和再现训练数据时。我们将这一挑战形式化为成员与生成推理（MGI）：给定样本和目标生成模型，推断样本是真正的训练成员还是该模型的生成输出。着眼于图像生成，我们表明现有的成员推理方法系统地将生成的样本错误分类为训练成员，而基于归因的方法经常将真实成员错误分类为生成的成员。出现这种失败的原因是，这两种方法都依赖于与似然相关的信号，这些信号对于训练示例和模型自身的输出同样会升高。为了解决 MGI 问题，我们提出了数据断路器 (DCB)，这是一种三阶段方法，结合了来自生成模型的自动编码器和潜在生成器的互补信号，以区分训练成员和生成的样本。在包括图像自回归和扩散模型在内的多种生成模型中，DCB 始终如一地解决了隶属推断和归因方法的缺点，即使模型复制了接近重复的训练样本，仍然有效，并且可以推广到具有挑战性的模型衍生设置，其中新模型在生成的数据上进行训练。