论文
智能体能泛化到开放世界吗:揭示工具使用中静态训练的脆弱性
Can Agents Generalize to the Open World? Unveiling the Fragility of Static Training in Tool Use
摘要
虽然LLM智能体在静态基准上展示熟练——其在真实场景中的部署受用户查询、工具集与交互动力学的动态性质阻碍。我们形式化OpenAgent(开放世界中的工具使用智能体)——以查询、动作、观察与域维度的分布偏移为特征。构建受控沙箱环境——定义跨感知、交互、推理与内化四层层级的细粒度环境偏移并开展全面实验。分析产出关键洞见:经SFT与RL训练的智能体面对开放环境偏移时均遭受不同程度的性能退化。基于此,我们提出扰动增广微调——面向SFT的基于干扰的干预策略——为在真实环境中增强智能体鲁棒性与效用奠定基础。
