论文
知识与隐私的解耦：LLM持续学习的任务后自我蒸馏重播
Decoupling Knowledge and Privacy: Post-Task Self-Distillation Replay for LLM Continual Learning
摘要
隐私保护持续学习（PPCL）必须减少敏感内容的复制，同时保留跨连续任务的有用知识。正式的隐私保证以随机机制为特征，而操作输出控制则涉及经过训练的模型是否有选择地降低其输出中敏感内容的可能性。在这项工作中，我们研究了后者以及现实任务演化下的持续学习效用。保留和隐私校正以不同的粒度进行操作：任务获取需要广泛保留当前和旧的任务行为，而隐私校正则针对稀疏注释的位置。联合优化使当前任务保留目标不断变化。我们提出了 SPARK，一种保留校正分解，它首先冻结学习的任务后分布，然后围绕这个稳定的参考应用选择性校正。自蒸馏重放会学习当前任务，同时从以前的任务中提取行为，而任务后隐私校正会减少带注释的 PII 可能性，同时将当前和旧任务的非 PII 行为锚定到结果检查点。广泛的评估表明，SPARK 实现了有效的选择性 PII 抑制，同时在不同的环境中保持强大的持续学习效用和知识保留。代码和数据将在发布后发布。