论文
端到端口语理解中的选择性能力遗忘
Selective Capability Unlearning in End-to-End Spoken Language Understanding
摘要
现代口语理解 (SLU) 系统越来越多地部署在现实世界中,但由于政策或安全限制,可能需要删除特定功能。在 SLU 中,功能对应于意图及其关联的槽生成行为。然而,在自回归模型中,抑制目标意图并不能消除生成以该意图为条件的槽的条件映射。当外部提供意图前缀时,模型可以重建原始的意图槽结构。我们将这种结构性故障定义为 \textbf{\emph{能力持久性}}。我们提出 \textit{\underline{B}inding \underline{S}ubspace (BSU)},一个表示级框架,用于隔离和减弱此映射背后的意图条件方向。在 SLU 基准测试中,BSU 显着降低了强制前缀可恢复性,同时保留了保留的性能。