论文
DualOptim+：桥接共享和解耦优化器状态，以实现 大语言模型 中更好的机器取消学习
DualOptim+: Bridging Shared and Decoupled Optimizer States for Better Machine Unlearning in Large Language Models
摘要
我们提出了 DualOptim+，这是一种用于改善 大语言模型 中机器遗忘的新颖优化框架。它引入了一个基本状态来捕获通过忘记和保留目标而共享的共同表示，以及三角洲状态来保留特定于目标的残差。这种架构允许优化器根据遗忘和保留梯度之间的方向冲突自适应地桥接共享和解耦状态。我们进一步介绍 DualOptim+ 8bit，这是一种量化变体，可以在不影响性能的情况下减少内存开销。涵盖虚拟和现实世界的忘却、安全调整和多任务学习任务的大量实验表明，DualOptim+ 始终能够在不同目标之间实现卓越的权衡。代码可在 https://github.com/CityU-MLO/DualOptimPlus 获取。