论文

代理通过将 LoRA 适配器作为工具 (SLAaaT) 解锁新功能

Agents unlock new capabilities through Switching LoRA Adapters as a Tool (SLAaaT)

智能体系统Agent 工具调用

摘要

后训练 可以解锁新功能并提高专门任务的性能,但有时会以其他领域的灾难性遗忘为代价。这在构成不同能力的长智能体轨迹中带来了问题。我们通过为代理提供一个在跟踪过程中在专用 LoRA 适配器之间切换的工具来拒绝这种权衡。为了测试其有效性,我们编写了两个逻辑上简单但需要专业化的综合编码任务。我们发现,这使得模型能够解决以前无法解决的问题,模型能够自主切换(并找到一种新策略,在一项任务上击败我们的人类启发式基线),并且与仅使用一个专用适配器的代理相比,这会导致能力税减少高达 18 倍。我们的方法在任务能力(解决 4 个最困难的任务与没有任务)和词元使用(在某些场景中词元减少 46.1 倍)方面也大大优于生成子代理。