论文
超越跨语言迁移:多语言中传播边界的基准测试 LLM Unlearning
Beyond Cross-Lingual Transfer: Benchmarking Propagation Boundaries in Multilingual LLM Unlearning
摘要
大语言模型 (LLM) 忘却的目的是抑制目标知识,同时保留一般能力。在多语言环境中,遗忘还必须在其预期的语言范围内传播。然而,现有的评估主要衡量跨语言迁移,无法区分传播不足和过度。我们引入了 CLLPU(LLM Unlearning 的跨语言和语言绑定协议),这是一种多语言基准,它通过两种设置来制定此问题:共同目标遗忘(应在所有语言中抑制目标知识)和语言条件遗忘(抑制应仅限于指定语言)。 CLLPU 结合了目标引导的主题配对、模式感知关系匹配和双锚多语言翻译,构建了 800 个匹配的知识单元对和 10 种语言的 72,000 个 QA 实例。在 Llama-3.1-8B-Instruct 上使用六种代表性方法进行的实验揭示了相反的失败模式:当需要普遍抑制时,遗忘仍然不完整,而当需要语言条件限制时,遗忘会扩散到预期边界之外。我们进一步发现,一般的多语言实用性可以掩盖对邻居知识的损害。这些发现将传播控制确定为多语言 LLM 遗忘的核心挑战。我们公开发布 CLLPU 及其构建管道。