论文
Z-PEFT：通过规范光谱签名在参数高效的 微调 中进行零样本后门检测
Z-PEFT: Zero-shot Backdoor Detection in Parameter-Efficient Fine-Tuning via Canonical Spectral Signatures
摘要
从业者经常从开放存储库下载参数高效微调（PEFT）模型。这种广泛的做法创造了一个重要的攻击面，因为恶意行为者可以发布后门模型，这些模型会根据预定义的触发器引发特定行为。我们研究权重空间后门检测问题，其中检测器分类器仅使用其权重来预测模型是否是恶意的，从而实现轻量级安全机制。大多数现有方法都是在封闭世界环境中设计和评估的，其中检测器针对相同的攻击类型进行训练和测试。相比之下，我们评估新条件下的后门检测，包括以前未见过的攻击和数据集。我们提出了 Z-PEFT，一种轻量级元分类器，完全依赖于逐层光谱测量进行分类。我们的实验表明，封闭世界环境中的强大性能并不一定意味着零样本后门检测的高精度。在权重空间检测器中，Z-PEFT 实现了最佳性能，同时保持了较低且可扩展的计算成本。