论文
Emerging from Ground:经将真实调用导出为虚拟轨迹解决工具使用智能体的意图偏差
Emerging from Ground: Addressing Intent Deviation in Tool-Using Agents via Deriving Real Calls into Virtual Trajectories
摘要
LLM 推动了面向真实应用的工具使用智能体,但它们常导致意外行为或结果。在明显失败之外,微妙的意图偏差问题严重阻碍可靠评估与性能提升。现有后训练方法通常要么利用真实系统样本,要么利用 LLM 模拟的虚拟数据。然而,前者依赖手工创建的用户请求而成本高昂,后者则与真实工具存在分布偏移。此外,两种方法都缺乏针对意图偏差场景定制的负样本,阻碍对偏好学习的有效引导。我们提出 RISE,一个旨在缓解意图偏差的真实到虚拟方法。RISE 锚定于经过验证的工具原语,合成虚拟轨迹并通过在关键参数上变异生成多样的负样本。利用合成数据,RISE 通过两阶段训练对主干 LLM 进行意图对齐微调。评估结果显示,RISE 合成的数据在覆盖用户需求、执行轨迹与智能体响应的八项指标上取得可观结果。结合训练,RISE 在 Acctask(任务完成)上平均提升 35.28%,在 Accintent(意图对齐)上提升 23.27%,分别以 1.20-42.09% 与 1.17-54.93% 超越 SOTA 基线。
