语言智能体持续自我进化的语义预测

语言模型Agent越来越依赖持久的自然语言技能来适应超出其冻结的模型参数。然而，当从非固定、异构的任务流中反复修改共享技能时，新任务的改进可能会覆盖早期任务所需的过程。在持续学习中，正交梯度下降（OGD）通过将新任务梯度投影到局部保留先前预测的子空间上来解决类似的干扰。然而，自然语言技能修订既没有梯度，也没有可以执行此类投影的规范向量空间。我们引入\emph{语义范围投影进化}（SSPE），它将梯度投影的功能原理从参数空间转移到行为空间。 SSPE 将不受约束的技能修订视为建议的更新，识别可能干扰的已获得功能，并使用观察到的增益和回归来构建兼容的修订，而不是仅仅拒绝更新。这使得一项共享技能能够在潜在的和重复的任务上下文中进化，而无需将语义域身份暴露给进化模型。通过受控的合成流和异构真实代理基准，SSPE 提高了最终的跨域能力，并减少了相对于强大的技能进化基线的遗忘。进化后的技能在转移到不同的执行器模型后也保留了最强的平均性能。这些结果将语义投影确立为语言智能体稳定和自适应自我进化的有前途的原则。