成员推断机制分析：区分模型内部可解码信息与实际读出暴露

成员推断旨在判断特定样本是否包含在模型训练数据中。这类成员信号常被笼统称为记忆，但底层机制可能同时涉及信息在内部如何表征，以及模型如何访问这些信息以产生行为。因此，我们对大语言模型的成员信号进行机制研究，提出可解码信息分数、已使用信息分数和读出可访问性差距（DUG）等互补量，分别衡量内部表征可解码的成员信息，以及模型读出实际暴露的信息。在基于监督微调（SFT）和强化学习（RL）的成员推断方法中，SFT下的成员特异性影响同时体现于可解码信息量和读出，而RL方法下主要体现于读出。激活修补进一步将这些成员特异性影响定位到中间层。为检验结果是否适用于更一般的RL情境，我们还研究可验证奖励强化学习（RLVR）中的数据污染，此时训练奖励独立于参考解答。我们发现，在这一设置下，行为可能发生变化，而基于似然的成员推断信号并不相应增强。