论文
ParaAgent:加强开放世界工具环境中的并行操作
ParaAgent: Reinforcing Parallel Acting in Open-World Tool Environments
摘要
语言模型Agent越来越多地部署在开放世界的工具环境中,这需要平衡探索未知功能和利用已知功能。现有的方法面临着性能与效率的权衡:它们要么严格地解耦探索和执行,要么在没有协调的情况下将它们交错在一起。我们认为,关键不在于是否解耦还是交错,而在于如何跨粒度协调它们。我们引入了 ParaAct,一种结构化的并行操作循环,它将阶段级探索 $\rightleftharpoons$ 执行与操作级并行性相结合。为了学习这个循环,ParaAgent 将多智能体冷启动演示与多级优势解耦下的强化学习相结合,使规划结构明确,并通过步骤、阶段和轨迹级奖励对其进行监督。我们的 ToolEnv 支持学习,这是一个基于 50,011 个真实工具界面的可扩展模拟器。在两个开放世界工具基准测试中,ParaAgent-4B 在包括 GPT-4.1 系统在内的所有基准测试中取得了最佳的平均成功率,在多工具任务上取得了最大的进步。行为分析表明,这些收益源于该行动组织,突显了其对于有能力且高效的开放世界Agent的重要性。