论文

经压力感知联合邻域分析重新审视知识编辑中的涟漪效应

Revisiting Ripple Effects in Knowledge Editing through Pressure-Aware Joint Neighborhood Optimization

模型训练模型编辑与遗忘

摘要

大型语言模型中的单次编辑更新可能会在本地知识社区中引发连锁反应:对相关事实的理想传播和对保留事实的意外扰动。现有方法分别解决这两种影响,而没有明确建模它们的耦合。我们通过分析典型基线上的纹波响应来挑战这种分离,确定两个耦合的设计压力:可编辑侧协调和保留侧泄漏。我们提出联合邻域优化(JNO),这是一种新的知识编辑框架,用于在目标规划阶段形式化并共同解决这两种压力。 JNO 通过压力感知协调(PAC)实例化了这一原理,该协调在耦合约束下联合优化邻域目标表示,以及在参数执行之前拒绝高风险目标计划的语义预执行门。 RippleEdits 上的实验表明,JNO 将传播和保存指标提高了至少 7.0%,同时保持了跨主干编辑的稳定性。

经压力感知联合邻域分析重新审视知识编辑中的涟漪效应:论文配图
图 1:邻域感知 KE 中的连锁反应。