论文
AST-PAC:AST 引导的代码成员推断
AST-PAC: AST-guided Membership Inference for Code
摘要
代码大语言模型经常在海量包含受限许可源代码的数据集上训练。这带来紧迫的数据治理与版权挑战。成员推断攻击(MIA)可作为一种审计机制,用于检测模型中未授权的数据使用。虽然 Loss Attack 等攻击提供了基线,但 Polarized Augment Calibration(PAC)等更复杂的方法在代码领域仍待探索。本文是一项探索性研究,在 3B–7B 参数的代码模型上评估这些方法。我们发现,尽管 PAC 总体优于 Loss 基线,但其有效性依赖于无视代码严格语法的增广策略,导致在更大、更复杂的文件上性能退化。为此,我们提出 AST-PAC,一种领域特定适配,利用基于抽象语法树(AST)的扰动生成语法有效的校准样本。初步结果表明,AST-PAC 在语法规模增大时有所改进——而 PAC 在此退化——但对小文件变异不足,在字母数字密集的代码上表现欠佳。总体而言,这些发现推动未来对语法感知与规模自适应校准的研究,将其作为代码语言模型可靠溯源审计的前提。