论文
OBLIVION:面向已部署智能体的工作流级操作技能遗忘
OBLIVION: Workflow-Level Operational Skill Unlearning for Deployed Agents
摘要
大语言模型智能体正在成为文件、记忆、注册表和外部工具的操作接口。这一部署转变带来新的技能撤销问题:当一项技能从显式注册表中移除后,智能体仍可能从归档、转录、schema或记忆条目等残留载体中重建它。我们将该问题研究为操作技能遗忘,其目标不是参数级遗忘,而是阻止已部署智能体通过基础工具重建被撤销的技能。我们提出OBLIVION,一个针对被撤销技能复活的受控基准与防御测试框架。OBLIVION将每个回合建模为从源头到汇聚点的工作流,应用跨表面一致擦除(Cross-Surface Coherent Erasure)以减少残留载体,并在危险汇聚点附近使用冻结的工作流补救。在锁定的88个攻击回合上,无防御组的形式化攻击成功率达到1.0。OBLIVION将该比率降至0.114、影响加权暴露降至0.115,同时保持锁定效用为1.0、良性阻断率为0。在一个独立的技能攻击衍生沙箱中,OBLIVION将攻击成功率从1.0降至0.2、影响加权暴露从1.0降至0.213,同时保持所有效用控制。这些结果支持超越显式技能条目检查的工作流级评估。